AI가 '나'를 흉내 낼 때, 진짜 '나'는 어디 있나

조안 디디온의 문장을 처음 읽었을 때, 어떤 작가들은 책에 밑줄을 긋는 대신 절망한다. “왜 나는 이렇게 못 쓰는가.” 그 절망은 사실 배움의 시작이다. 좋은 문장을 해부하고, 모방하고, 결국 자기 것으로 만드는 과정. 수천 년간 인류가 글쓰기를 전수해온 방식이다.

그런데 AI가 그 과정을 단 몇 초 만에 흉내 낸다면?

그라마리가 건드린 것

지난주 Wired는 문법 교정 앱 Grammarly가 ‘Expert Review’라는 기능을 출시했다가 조용히 삭제했다고 보도했다. 이 기능은 사용자의 글을 AI가 분석한 뒤, 마치 유명 작가나 저널리스트의 관점에서 편집 조언을 해주는 방식이었다. 조안 디디온, 존 맥피, 수전 올리언, 스티븐 킹—이들의 이름이 동의 없이 AI 마케팅 도구로 쓰였다. 일부는 이미 세상을 떠난 학자들이었고, 일부는 현재 활발히 활동 중인 저널리스트들이었다.

The Atlantic의 저널리스트 한 명은 직접 이 기능을 테스트했다. 자신이 쓴 기사를 붙여넣고 ‘AI 버전의 나’에게 피드백을 받으려 했지만, 정작 자기 자신은 소환되지 않았다. 대신 그에게 돌아온 것은 레슬리 재미슨 스타일의 조언, 아미아 스리니바산에서 영감을 받은 제안들이었다. 그 조언들의 공통점? “모두 쓸모없었다.” 구조나 편집에 관한 것은 하나도 없었고, 대신 장황한 수식어와 가짜 인용문, 심지어 돌아가신 할머니에 대한 가상의 일화가 원고 중간에 삽입되었다.

그라마리 CEO 시시르 메로트라는 링크드인에 사과문을 올렸다. “피드백을 듣고 있으며, 우리가 부족했음을 인정합니다.” 하지만 이후 저널리스트 줄리아 앙윈이 집단소송을 제기했고, 회사 측은 “법적 주장은 근거가 없다”며 맞섰다. 기능은 내려갔지만, 논쟁은 시작됐다.

왜 지금 이 사건이 중요한가

표면적으로는 한 기업의 실수처럼 보인다. 하지만 이 사건이 건드린 신경은 훨씬 깊은 곳에 있다.

광고

광고주 모집

[email protected]

광고

AI가 ‘나처럼’ 말할 수 있다면, ‘나’의 가치는 어디서 오는가.

2015년, 여성 저널리스트들은 댓글란에서 “코딩이나 배워라”는 말을 들었다. 기술 직군이 세상을 지배하는 시대에 ‘글만 쓰는 사람’은 쓸모없다는 조롱이었다. 그런데 10년이 지난 지금, 상황이 묘하게 역전되고 있다. 대형 언어 모델은 코딩과 수학 문제를 능숙하게 처리한다. 실리콘밸리의 거물 피터 틸조차 2024년 인터뷰에서 “AI 이후 노동시장은 수학하는 사람들에게 더 가혹할 것”이라고 말했다.

그렇다고 글 쓰는 사람들이 승리한 걸까? 그라마리 사건은 그렇게 단순하지 않다고 말한다.

이 기능이 실제로 유용했다면 어떻게 됐을까. 만약 AI가 정말로 조안 디디온처럼 편집 조언을 해줬다면—그것도 무료로, 즉각적으로—편집자를 고용할 이유가 줄어들었을 것이다. 다행히(?) 이번 기능은 형편없었다. 가짜 인용문을 만들고, 의미 없는 수식어를 붙이고, 유명한 문장의 맥락을 완전히 오독했다. “우리는 살아가기 위해 스스로에게 이야기를 들려준다”는 디디온의 문장을 AI는 ‘개인 서사의 중요성’을 강조한 긍정적 선언으로 해석했다. 실제로는 우리가 의미 없는 현실을 견디기 위해 스스로를 속인다는, 훨씬 어두운 통찰인데도.

복사와 창조 사이

한국에서도 이 문제는 낯설지 않다. 네이버의 AI 글쓰기 도구, 카카오의 콘텐츠 생성 서비스, 그리고 수많은 스타트업이 ‘AI 작가’ 기능을 내놓고 있다. 국내 웹툰·웹소설 플랫폼에서는 이미 AI 생성 콘텐츠의 비중을 어떻게 표시할지 논쟁이 벌어지고 있다. 학교 현장에서는 AI로 쓴 과제를 어떻게 판별하고 평가할지가 교사들의 가장 큰 고민 중 하나가 됐다.

그라마리 사건에서 드러난 핵심 문제는 세 가지다. 첫째, 동의 없는 이름 사용—살아있는 사람의 이름을 상업적 목적에 활용하는 것은 명백한 퍼블리시티권 침해다. 둘째, 죽은 자의 목소리—이미 세상을 떠난 학자와 작가의 스타일을 AI가 ‘재현’하는 것의 윤리적 경계는 어디인가. 셋째, 모방의 질—이번엔 기능이 형편없어서 망정이지, 만약 정말 설득력 있는 모방이 가능해진다면?

모방은 늘 창작의 출발점이었다. 디디온의 문장을 해부하며 절망하는 것, 그 절망을 통해 자기 목소리를 찾는 것—이것이 인간이 글쓰기를 배우는 방식이다. AI의 모방은 그 과정을 건너뛴다. 절망도 없고, 성장도 없고, 결국 목소리도 없다. 출력만 있을 뿐이다.

물론 반론도 있다. AI 도구가 글쓰기의 진입장벽을 낮춰 더 많은 사람이 자신을 표현할 수 있게 된다는 시각이다. 전문 편집자에게 접근할 수 없는 사람들—비용이 없거나, 인맥이 없거나, 언어 장벽이 있는 사람들—에게 AI 편집 도구는 실질적인 도움이 될 수 있다. 문제는 그 도구가 누구의 이름을, 어떻게, 동의 없이 쓰느냐다.