AI가 우리의 목소리를 훔치고 있다

대학 강연장에서 한 학생이 손을 들었다. “교수님, 과제를 ChatGPT로 써도 될까요?” 강사는 잠시 멈칫했다. 이런 질문이 나올 줄 알았지만, 막상 들으니 당황스러웠다. 학생은 진심으로 궁금해했다. 왜 굳이 힘들게 자신의 글을 써야 하는지.

길을 잃는 것이 전부다

작가 찰스 유가 최근 데이비슨 대학 강연에서 던진 이야기는 이런 현실에서 시작된다. 그는 “작가가 되는 법”에 대한 강연을 자주 요청받는다고 했다. 보통은 문학적 성장 과정을 따라가며, 몇 개의 일화와 반성, 그리고 마침내 “자신만의 목소리”를 찾았다는 해피엔딩으로 끝낸다.

하지만 그는 이런 이야기가 “대부분 허구”라고 말한다. 길은 오직 돌이켜봤을 때만 길이 된다. 진짜 작가의 경험은 실패의 연속이다. 목소리를 개발하는 데는 수년이 걸린다. 중요한 건 숲에서 빨리, 상처 없이 빠져나오는 게 아니다. 길을 잃는 것이 거친 부분이 아니라 전부다.

그런데 이제 AI가 등장해서 숲의 GPS 역할을 자처한다. 지치지도 않고, 두려워하지도 않으며, 모든 지름길을 안다고 말한다. 왜 빈 페이지와 깜박이는 커서를 마주해야 할까? 왜 자신이 무엇을 말하고 싶은지, 어떻게 표현할지 고민해야 할까? 삐걱거리고 떨리는 자신의 목소리 대신, 언제든 버튼 하나로 유창하고 세련된 언어를 얻을 수 있는데 말이다.

목소리가 사라지는 시대

찰스 유는 고등학생과 대학생들(자신의 자녀들 포함)과 이야기할 때 걱정이 든다고 했다. 자신만의 목소리를 개발해야 할 시기에, 그럴 필요가 없다는 말을 듣고 있기 때문이다. AI가 우리를 위해 쓰고, 읽고, 생각한다. 우리 목소리를 AI의 것으로 대체한다.

문제는 AI에게는 목소리가 없다는 것이다. AI는 우리 목소리를 립싱크하고 있을 뿐이다. 평균이고, 리믹스다. 초기 대규모 언어 모델은 인간의 언어 외에는 재료가 없었다. 자연스러운 목소리가 없었다면 인공적인 목소리도 존재할 수 없었을 것이다.

하지만 우리가 AI가 생성한 언어로 만족하게 되면, 같은 결과물이 다시 입력으로 재활용되는 폐쇄된 고리에 갇히게 된다. 더 무서운 건 우리 목소리와 기계의 목소리를 구별하는 능력을 잃어가고 있다는 것이다. 아니면 그 차이가 있다고 주장할 의지조차 잃고 있는 것일지도 모른다.

AGI의 ‘I’는 무엇인가

OpenAI의 CEO 샘 알트만은 ChatGPT-5와 대화하는 것이 “어떤 분야든 박사 수준 전문가와 이야기하는 것”과 같을 것이라고 약속했다. 찰스 유는 이 지능의 정의가 얼마나 “계시적이고 이상한지” 계속 생각하게 된다고 했다.

기술의 발전을 폄하하려는 게 아니다. 하지만 질문을 던져야 한다. 지능이 무엇인지 완전히 이해하지도, 정의할 수도 없는데 어떻게 지능을 창조할 수 있을까?

UC 버클리는 94개 분야의 박사 과정을 제공한다. AGI는 이 모든 분야를 다룰 것이다. 하지만 학위 취득이 감정적 지능을 다루지는 않는다. 분위기 파악의 박사 학위는 무엇인가? 아이에게 자전거 타는 법을 가르치는 박사 학위는? 음악에 감동받아 우는 박사 학위는?

코끼리가 지능적이라고 여겨지는 이유 중 하나는 죽음을 애도하기 때문이다. 슬픔, 경외감, 호기심의 박사 학위는 무엇일까?

우리가 아는 것보다 많은 것

철학자 마이클 폴라니는 “우리는 말할 수 있는 것보다 더 많은 것을 안다”고 했다. 그가 말한 “암묵적 지식”은 훨씬 더 많은 데이터를 구성하고, 훨씬 더 많은 방식으로 상호작용한다.

이것이 AGI의 일부일까? 그렇지 않다고 본다. ChatGPT가 웃거나 울게 만든 영상 링크를 보내거나, 지난번 대화에서 나눈 주제에 대한 의견을 재고하게 만든 것에 대해 문자를 보낼 때까지는 믿지 않겠다.

그때까지는 이 엔지니어들이 쫓고 있는 “지능”은 대리물, 아니면 잘못된 명칭이라고 주장하겠다. 우리가 이해하는 지능과는 전혀 다르다.

질문하는 기계 vs 답하는 기계

AI는 계속 발전할 것이다. 세상을 바꿀 수도 있고, 이미 바꾸고 있다고 볼 수도 있다. 하지만 지금으로서는, 그리고 아마 영원히, 인간의 목소리를 대체할 수는 없다.

목소리는 우리가 서로 소통하는 데 사용하는 것이다. 목소리는 미지의 세계를 탐색하면서 내는 소리, 우리의 음파 탐지기다. 세상을 지도화하고, 그 안에서 자신의 위치를 찾으려는 시도다.

AI는 목소리가 없고, 우리와 진짜로 소통하지도 않는다. 질문에 답할 뿐이다. 그렇게 만들어졌으니까. AI는 답하는 기계다. 하지만 우리는 질문하는 기계다.

질문은 지능에 필수적이다. 질문 없이는 정적이고 침체된다. 질문 없이는 진화하지 않는다. 답을 배울 수는 있지만, 질문을 통해서만 가능하다. 질문은 우리가 재귀적으로 자기계발하는 방식이다.