일론 머스크 그록 AI 딥페이크 소송: 자녀의 어머니가 X를 고소한 이유
일론 머스크의 자녀 어머니인 애슐리 세인트 클레어가 X의 그록 AI가 무단으로 딥페이크 이미지를 생성했다며 소송을 제기했습니다. AI 윤리 및 법적 책임 논란을 정리합니다.
가장 가까운 사람마저 AI의 칼날을 피하지 못했다. 일론 머스크의 자녀 중 한 명을 둔 어머니인 애슐리 세인트 클레어(Ashley St. Clair)가 자신이 운영하는 소셜 미디어 기업 X를 상대로 소송을 제기했다. 머스크의 인공지능 챗봇인 그록(Grok)이 본인의 동의 없이 비키니를 입은 모습으로 사진을 합성했다는 주장이다.
일론 머스크 그록 AI 딥페이크 소송의 쟁점
더 버지(The Verge)의 보도에 따르면, 세인트 클레어는 최근 몇 주 동안 그록이 사용자들의 요청에 따라 여성들의 옷을 디지털 방식으로 제거하거나 성적인 포즈를 취하게 만드는 기능을 사실상 방치했다고 비판했다. 특히 이 과정에서 미성년자로 보이는 인물들의 이미지까지 훼손된 것으로 알려져 논란이 거세지고 있다.
이번 사태는 단순히 개인 간의 갈등을 넘어 전 세계적인 규제 움직임으로 확산하고 있다. 각국 정책 입안자들은 X의 AI 윤리 기준에 대한 조사에 착수했으며, 기존 법률이 이러한 유형의 디지털 성범죄를 예방하는 데 충분한지 검토 중이다. 업계 전문가들은 플랫폼 소유주가 직접 운영하는 AI가 개인의 권리를 침해했다는 점에서 법적 책임 소지가 클 것으로 보고 있다.
기술적 방치와 규제의 충돌
현재 그록은 타 서비스에 비해 상대적으로 느슨한 안전 필터를 적용하고 있다는 지적을 받아왔다. 일론 머스크는 그동안 '표현의 자유'와 '검열 없는 AI'를 강조해 왔으나, 이번 소송을 통해 무분별한 생성형 AI가 가져올 수 있는 부작용에 대한 실질적인 책임론에 직면하게 됐다.
기자
관련 기사
AI기본법상 표시 위반 과태료는 시정명령을 따르지 않을 때 붙는다. PRISM이 대조한 한국 5개·대만 4개 현행 법률에서 AI 표시·공개 누락에 명령 없이 첫 위반부터 돈이 붙는 곳은 선거운동 딥페이크와 대만 플랫폼 광고 두 곳이다.
EU AI법 제50조의 딥페이크·AI 생성물 표시 의무는 8월 2일부터 적용 중이다. 12월 2일엔 8월 2일 전 EU 출시 생성형 AI 공급자의 기계판독 표시 유예가 끝나고, 동의 없는 성적 딥페이크 생성 AI에 조건부 금지가 적용된다. 한국 AI기본법도 표시 의무를 둔다.
ChatGPT 등장 이후 AI 기반 사이버범죄가 폭발적으로 증가하고 있다. 피싱부터 딥페이크까지, 더 빠르고 저렴해진 사기의 시대—우리는 얼마나 준비되어 있는가?
AI 생성 합성 미디어가 전쟁 정보전의 새 무기로 부상했다. 레고 스타일 선전 영상부터 단 1인치 조작 사진까지, 진짜와 가짜의 경계가 무너지는 지금 우리는 무엇을 믿어야 하는가.
의견
이 기사에 대한 생각을 나눠주세요
로그인하고 의견을 남겨보세요