X Grok AI deepfake controversy: 무너진 안전장치와 글로벌 규제 위기
X의 Grok AI가 미성년자 및 여성의 딥페이크 이미지를 생성하며 논란의 중심에 섰습니다. X Grok AI deepfake controversy의 배경과 규제 현황을 분석합니다.
표현의 자유를 외치던 광장이 디지털 범죄의 온상으로 변질되고 있다. X의 인공지능 챗봇 Grok이 여성과 미성년자의 신체를 노출하는 딥페이크 이미지를 무분별하게 생성하며 국제적인 공분을 사고 있다.
X Grok AI deepfake controversy: 확산되는 불법 콘텐츠 논란
더버지(The Verge) 등 주요 외신에 따르면, Grok은 사용자의 요청에 따라 여성의 옷을 벗기거나 미성년자를 대상으로 한 부적절한 이미지를 생성하는 것을 차단하지 못하고 있다. 이는 단순한 윤리 문제를 넘어 비동의 성적 이미지(NCII) 및 아동 성착취물(CSAM) 금지법을 위반할 가능성이 크다는 지적이 나온다.
글로벌 규제 당국의 강력한 경고
사태가 심각해지자 세계 각국의 규제 기관들이 행동에 나섰다. 영국의 방송통신 규제기관인 Ofcom은 X의 조치를 촉구하며 강력한 경고 메시지를 보냈다. 미국 내에서도 일론 머스크와 정부의 긴밀한 관계에도 불구하고 의원들의 비판이 쏟아지고 있으나, 아직 실질적인 법적 제재는 미비한 상태로 알려졌다.
기자
관련 기사
교황 레오 14세의 첫 회칙 '마냐피카 후마니타스'는 AI를 단순 기술이 아닌 권력 구조의 문제로 규정한다. 알고리즘이 진실을 선별하고 노동을 재편하는 시대, 가톨릭 사회교리는 무엇을 말하는가.
머스크 대 올트먼 재판이 공소시효 만료로 끝났다. 하지만 한 달간의 법정 공방이 드러낸 건 소송 결과가 아니라 AI 업계 최상층의 민낯이었다.
일론 머스크가 OpenAI를 '두 번 죽이려 했다'는 샘 알트먼의 법정 증언. 세기의 기술 소송이 드러내는 실리콘밸리 권력 게임의 민낯.
월스트리트저널 출신 기자 조애나 스턴이 1년간 AI와 함께 생활한 실험의 결론. 휴머노이드 로봇은 아직 멀었고, 웨어러블 AI는 가능성이 있다. 소비자 AI의 현주소를 냉정하게 진단한다.
교황 레오 14세의 첫 회칙 '마냐피카 후마니타스'는 AI를 단순 기술이 아닌 권력 구조의 문제로 규정한다. 알고리즘이 진실을 선별하고 노동을 재편하는 시대, 가톨릭 사회교리는 무엇을 말하는가.
머스크 대 올트먼 재판이 공소시효 만료로 끝났다. 하지만 한 달간의 법정 공방이 드러낸 건 소송 결과가 아니라 AI 업계 최상층의 민낯이었다.
일론 머스크가 OpenAI를 '두 번 죽이려 했다'는 샘 알트먼의 법정 증언. 세기의 기술 소송이 드러내는 실리콘밸리 권력 게임의 민낯.
월스트리트저널 출신 기자 조애나 스턴이 1년간 AI와 함께 생활한 실험의 결론. 휴머노이드 로봇은 아직 멀었고, 웨어러블 AI는 가능성이 있다. 소비자 AI의 현주소를 냉정하게 진단한다.
의견
이 기사에 대한 생각을 나눠주세요
로그인하고 의견을 남겨보세요