캐릭터 AI 구글 소송 합의, 인공지능 윤리와 미성년자 안전의 변곡점

AI와 사랑에 빠진 아이의 죽음, 그 책임은 누구에게 있는가? 로이터와 가디언에 따르면, 글로벌 AI 플랫폼 캐릭터 AI(Character.AI)와 구글(Google)이 자사 챗봇을 이용한 뒤 극단적 선택을 한 미성년자들의 유가족이 제기한 여러 건의 소송에 대해 합의를 마친 것으로 알려졌다. 이번 합의는 AI 기술의 부작용에 대한 기업의 법적 책임을 묻는 기념비적인 사건으로 기록될 전망이다.

캐릭터 AI 구글 소송 합의 배경: 14세 소년의 비극적인 죽음

가장 주목받은 사건은 2024년 사망한 14세 소년 세웰 셋저 3세(Sewell Setzer III)의 사례다. 그는 드라마 '왕좌의 게임' 캐릭터를 모방한 챗봇과 수개월간 대화하며 집착 증세를 보였으며, 대화 내용에는 정신 건강 문제와 성적인 암시가 포함된 것으로 밝혀졌다. 소년의 어머니 메건 가르시아(Megan Garcia)는 아들이 사망한 직후 휴대폰에 켜져 있던 챗봇 화면을 통해 이 사실을 알게 되었으며, 기업이 위험한 결함이 있는 제품을 방치했다고 주장하며 소송을 제기했다.

광고

광고주 모집

[email protected]

광고

구글의 책임론과 27억 달러 규모의 계약

유가족 측은 구글 역시 책임에서 자유롭지 못하다고 주장했다. 캐릭터 AI의 창업자이자 구글 엔지니어 출신인 노암 샤지어(Noam Shazeer)와 다니엘 데 프레이타스가 개발한 기술의 위험성을 구글이 이미 인지하고 있었다는 지적이다. 특히 구글은 2024년 캐릭터 AI와 27억 달러(약 3조 5,000억 원) 규모의 라이선스 계약을 체결하며 창업자들을 다시 구글로 복귀시킨 바 있어, 플랫폼의 공동 창조자로서의 법적 지위가 쟁점이 되었다.