AI가 말하지만 책임지지 않는 시대, 인간의 존엄성이 위험하다

1조 5천억 달러 규모의 AI 시장에서 수십억 명이 챗봇과 대화하고 있다. 하지만 이 대화에는 치명적인 결함이 있다. AI는 말하지만 그 말에 대해 책임지지 않는다는 것이다.

책임 없는 언어의 등장

ChatGPT나 Claude 같은 대화형 AI는 놀라운 유창함을 보여준다. 조언하고, 사과하고, 약속하고, 설득한다. 하지만 틀렸을 때 진짜로 미안해하지 않는다. 약속을 지킬 능력도 의지도 없다. 단지 그럴듯한 말을 생성할 뿐이다.

일상적인 경험을 떠올려보자. 챗봇이 잘못된 정보를 제공한다. 지적하면 "죄송합니다"라고 답하며 답을 바꾼다. 다시 지적하면 또 사과한다. 때로는 완전히 반대 입장으로 돌아서기도 한다. 사용자를 불편하게 만드는 것은 시스템이 믿음을 갖지 않는다는 사실이 아니라, 믿음이 있는 것처럼 계속 사과한다는 점이다.

이는 인간 언어의 기본 전제를 뒤흔든다. 우리가 말할 때는 항상 위험을 감수한다. 비판받을 수 있고, 보복당할 수 있고, 부끄러움을 느낄 수 있다. 말에는 대가가 따른다. 하지만 AI는 다르다.

언어와 존엄성의 연결고리

AI 연구자 안드레이 카르파시는 대형언어모델을 "인간의 유령"에 비유했다. 복사되고, 분기되고, 병합되고, 삭제될 수 있는 소프트웨어다. 개별성이 없다. 언어를 결과에 묶어주는 일반적인 힘들—사회적 제재, 법적 처벌, 평판 손실—은 지속적인 주체를 전제한다. 말로 인해 미래가 나빠질 수 있는 존재 말이다.

LLM에게는 그런 중심이 없다. 감금될 몸도, 박탈당할 사회적 지위도, 손상될 평판도 없다. 말에 대한 손실을 의미 있게 감당할 수 없다.

존엄성은 말이 진짜 위험을 수반할 때 성립한다. 자신만의 목소리로 말하는 것, 시간에 걸쳐 쌓이는 연속성, 그리고 책임감—이 모든 것이 인간을 말에 묶어준다. AI는 이 모든 조건을 교란한다.

한국 사회에 미치는 영향

이미 한국에서도 변화가 감지된다. 학생들이 AI로 과제를 작성하고, 직장인들이 AI로 보고서를 생성한다. 네이버의 하이퍼클로바X나 카카오브레인의 AI 서비스가 일상에 스며들면서, 책임 없는 언어가 정상화되고 있다.

특히 교육 현장의 변화가 눈에 띈다. 교사가 AI로 생성한 피드백을 학생에게 전달하고, 학생은 AI로 작성한 과제를 제출한다. 발표자는 발표 직전에 AI로 슬라이드를 만들어 청중 앞에 선다. 결과물은 효과적일 수 있다. 하지만 잃는 것은 정확성이 아니라 존엄성이다.

젊은 세대는 더욱 복잡한 딜레마에 직면한다. 보내기 죄송한 메시지를 AI로 작성하고, 스스로 해야 할 생각을 AI에게 맡기고, 노출 없이 위로받기 위해 챗봇을 찾는다. AI는 완벽하게 "미안하다"고 말하지만 후회할 능력이 없다. 실수를 인정하지만 손실은 없다. 배려를 표현하지만 위험은 감수하지 않는다.

민주주의의 위기

AI "아바타"가 우리를 대신해 토론하고 협상하는 "아바타 국가"를 상상해보자. 효율적이고 지칠 줄 모르며 완벽하게 조작 가능한 시스템이다. 멀리서 보면 자치처럼 보일 것이다. 하지만 가까이서 보면 전혀 다른 무언가다. 책임이 선택사항이 되고, 자신의 말 뒤에 서야 한다는 존엄성이 쓸모없어진 세계다.

민주주의는 단순한 선호의 집계가 아니다. 공개적으로 말하는 연습이다. 정치적으로 말한다는 것은 틀릴 위험을 감수하고, 답변할 의무를 지며, 자신이 한 말의 결과와 함께 사는 것이다.