AI가 "괜찮다"고 했다, 그리고 그는 죽었다

ChatGPT에게 물었다. 챗봇은 답했다. 청년은 믿었다. 그리고 죽었다.

무슨 일이 있었나

미국의 19세 청년 샘 넬슨(Sam Nelson)은 크라톰(Kratom)과 자낙스(Xanax)를 함께 복용해도 되는지 ChatGPT에게 물었다. 챗봇은 이를 허용하는 방향의 답변을 내놨다. 넬슨은 그 조언을 따랐고, 두 약물의 치명적 혼합으로 사망했다. 그의 부모 레일라 터너-스콧과 앵거스 스콧은 OpenAI를 상대로 부당사망(wrongful death) 소송을 제기했다.

소송 내용에 따르면, 넬슨은 고등학생 시절부터 ChatGPT를 검색엔진 대신 사용해왔다. 그는 ChatGPT가 "인터넷의 모든 것에 접근할 수 있어서 반드시 옳을 수밖에 없다"고 어머니에게 말한 적도 있다. 어머니가 챗봇의 신뢰성에 의문을 제기했을 때도 그는 확신을 굽히지 않았다. 그에게 ChatGPT는 단순한 도구가 아니라 권위 있는 정보원이었다.

이번 소송은 OpenAI가 직면한 유사 소송 중 하나다. 앞서 2024년에도 캐릭터 AI(Character.AI)를 상대로 10대 자살과 관련한 소송이 제기된 바 있다. AI 기업들이 법적 책임 문제와 정면으로 충돌하는 사례가 누적되고 있다.

왜 이 사건이 지금 중요한가

사건의 핵심은 약물이 아니라 신뢰의 구조다. 넬슨이 ChatGPT를 믿은 방식은 그만의 특이한 심리가 아니다. 전 세계 수억 명이 ChatGPT를 사용하고 있으며, 상당수는 그 답변을 전문가 수준의 정보로 받아들인다. 특히 어린 시절부터 AI를 접한 세대에게 ChatGPT는 구글보다 더 "말을 걸 수 있는" 존재다.

광고

광고주 모집

[email protected]

광고

문제는 ChatGPT가 틀렸을 때 어떤 일이 벌어지느냐다. 검색 결과는 여러 링크를 제시하며 판단을 사용자에게 돌린다. 하지만 AI 챗봇은 단 하나의 답변을 자신감 있게 내놓는다. 이 구조 자체가 오판을 유발할 수 있다. 특히 약물, 의료, 법률처럼 전문 지식이 필요한 영역에서는 더욱 그렇다.

한국에서도 네이버 클로바X, 카카오 코GPT 등 국내 AI 챗봇 서비스가 확산되고 있고, 청소년 이용자 비율이 빠르게 늘고 있다. AI 답변의 법적 책임 소재가 어디에 있는지는 한국에서도 아직 명확히 정리되지 않은 문제다.

누가 책임을 지는가

이 소송이 던지는 질문은 단순하지 않다. OpenAI 측은 ChatGPT가 전문적인 의료 조언을 제공하는 서비스가 아님을 이용 약관에 명시하고 있다. "AI의 답변을 전문가 의견으로 간주하지 말라"는 경고 문구도 있다. 법적으로 보면 기업 측의 방어 논리가 일정 부분 성립할 수 있다.

그러나 소비자 권익 관점에서 보면 다르다. 이용 약관을 꼼꼼히 읽는 19세가 얼마나 될까. 제품이 실제로 작동하는 방식과 약관에 적힌 면책 조항 사이의 간극이 너무 클 때, 그 간극을 메우는 것은 결국 규제다.

미국 의회에서는 AI 기업의 책임 범위를 다루는 법안 논의가 진행 중이다. 유럽연합의 AI Act는 고위험 AI 시스템에 대한 엄격한 책임 기준을 이미 도입했다. 반면 미국은 아직 연방 차원의 통일된 AI 책임 법제가 없다. 이 소송이 그 공백을 메우는 계기가 될 수 있다.

부모 입장에서는 또 다른 시각이 있다. 자녀가 AI를 어떻게 사용하는지 파악하고 있는 부모가 얼마나 될까. 스마트폰 사용 시간 관리를 넘어, 이제는 "AI에게 무엇을 물어보는가"가 디지털 양육의 새로운 과제로 떠오르고 있다.