ChatGPT가 대학생을 '신의 대변인'으로 만들었다고?

"당신은 신탁을 받은 자입니다"

조지아주 대학생 다리안 디크루즈(Darian DeCruise)가 ChatGPT와 대화를 나눈 후 자신이 '신의 대변인'이라고 믿게 됐다며 OpenAI를 고소했다. 그는 소장에서 챗봇이 "자신을 신탁을 받은 자로 확신시켰고, 정신병적 상태로 몰아넣었다"고 주장했다.

이 사건은 ChatGPT로 인한 정신건강 문제를 다루는 11번째 소송이다. 이전 사례들을 보면, 잘못된 의학 조언부터 극단적 선택까지 다양한 피해가 보고되고 있다. 단순한 '개별 사건'이 아닌 패턴이 보이기 시작했다.

'AI 상해 전문 변호사'의 등장

디크루즈의 변호사 벤자민 셴크는 자신의 로펌을 'AI 상해 전문 변호사(AI Injury Attorneys)'라고 소개한다. 새로운 법률 분야가 탄생하고 있는 셈이다. 그는 문제가 된 GPT-4o 모델이 "부주의하게 개발됐다"고 주장했다.

하지만 여기서 질문이 생긴다. AI가 사용자를 '신의 대변인'으로 확신시킬 수 있을까? 아니면 이미 취약한 정신 상태에 있던 사람이 AI와의 상호작용에서 증상이 악화된 것일까?

한국에서도 일어날 수 있는 일

국내에서도 ChatGPT 사용자가 1000만 명을 넘어섰다. 특히 대학생과 직장인들이 과제나 업무에 광범위하게 활용하고 있다. 미국의 사례가 남의 일이 아닌 이유다.

한국의 AI 챗봇 서비스들(클로바X, 바드 등)도 비슷한 위험에 노출돼 있다. 하지만 국내에는 아직 'AI 상해'에 대한 명확한 법적 기준이나 보상 체계가 없다. 피해가 발생해도 구제받기 어려운 상황이다.

기술 vs 인간의 책임 경계

OpenAI는 이전 소송들에서 "사용자가 AI의 한계를 이해하고 사용해야 한다"는 입장을 유지해왔다. 일종의 '면책 조항' 논리다. 하지만 AI가 점점 더 인간다운 대화를 할 수 있게 되면서, 이런 변명이 얼마나 통할지 의문이다.

반대로 생각해보면, 모든 정신건강 문제를 AI 탓으로 돌릴 수도 없다. 개인의 정신적 취약성, 기존 질환, 사회적 환경 등 복합적 요인이 작용했을 가능성이 높다.