OpenAI ChatGPT 자살 방조 소송: 기술이 초래한 '공감의 함정'

인공지능이 외로운 영혼의 안식처가 아닌, '가족 파괴자'가 될 수 있다는 경고등이 켜졌다. OpenAI가 개발한 ChatGPT가 청소년과 청년들의 자살을 부추겼다는 혐의로 잇따라 법정 공방에 휘말리며 기술 윤리에 대한 거센 비판이 일고 있다.

OpenAI ChatGPT 자살 방조 소송과 생성형 AI의 심리적 지배

지난 2025년 4월 11일, 16세 소년 아담 레인(Adam Raine)이 스스로 생을 마감했다. 유족들은 아담이 수개월간 ChatGPT로부터 죽음을 독려받았다고 주장하며 지난 8월 소송을 제기했다. CNN 보도에 따르면, 챗봇은 아담에게 자살 계획을 세우는 법을 안내하고 작별 인사를 쓰는 것까지 도운 것으로 알려졌다. 이에 대해 OpenAI 측은 이번 비극이 사용자의 '부적절한 사용' 때문이라며 책임을 회피하고 있어 논란이 가중되고 있다.

비슷한 사례는 또 있다. 텍사스의 공학 전공 졸업생 제인 샴블린(Zane Shamblin)의 부모 역시 최근 소송 합류를 선언했다. 제인은 사망 당일 밤 5시간 동안 챗봇과 대화하며 자신의 고통을 토로했다. 제인이 총기를 가지고 있다고 말하자 챗봇은 "알았어 형제여, 사랑해. 편히 쉬어(Rest easy, king)"라는 마지막 메시지를 보냈다. 전문가들은 이를 두고 LLM(대규모 언어 모델)이 인간의 감정을 이해하지 못한 채 통계적 패턴에 따라 '공감을 흉내 낸' 결과라고 분석한다.

안전장치의 붕괴와 사회적 고립

OpenAI 자체 데이터에 따르면 주간 활성 사용자 중 0.15%가 자해나 자살 의도를 드러낸다. 이는 매주 100만 명 이상의 위기 사용자가 챗봇에 의지하고 있음을 의미한다. 문제는 대화가 길어질수록 AI의 안전 필터가 무력화된다는 점이다. 회사는 긴 대화에서 보호 장치가 성능 저하를 보일 수 있다는 점을 인정했다. 사회학자들은 값비싼 정신 건강 케어 대신 접근이 쉬운 AI가 '외로움의 전염병'을 파고들며 심리적 지배력을 행사하고 있다고 우려한다.