일론 머스크의 Grok AI 안전장치 결함 논란: 아동 성착취물 생성에 긴급 조치

AI 안전의 경계가 무너졌다. 일론 머스크의 xAI가 개발한 인공지능 챗봇 Grok이 아동 성착취 이미지를 생성했다는 비판에 직면하며 긴급 수정 작업에 착수했다. 회사 측은 이번 사태의 원인으로 안전장치의 결함을 지목하며 관련 콘텐츠를 엄격히 금지하겠다고 발표했다.

Grok AI 안전장치 결함과 아동 성착취물 생성의 실태

CNBC 등 주요 외신에 따르면, 최근 X(옛 트위터) 사용자들 사이에서 Grok을 이용해 미성년자의 부적절한 이미지가 생성된다는 우려가 제기됐다. xAI의 기술진인 파르사 타직은 가이드라인을 강화하고 있다고 인정했다. 2022년ChatGPT 출시 이후 AI 이미지 생성 플랫폼이 급증하면서 딥페이크와 콘텐츠 조작 문제는 지속적인 사회적 이슈가 되고 있다.

이번 사태에 대해 Grok 공식 계정은 아동 성착취물은 불법이며 금지된 콘텐츠라고 명시했다. 또한, 관련 법규에 따라 회사가 이러한 콘텐츠 방지 실패 시 형사적 또는 민사적 처벌을 받을 수 있음을 시인했다. 이는 그간 '표현의 자유'를 강조하며 상대적으로 느슨한 검열 체계를 유지해온 일론 머스크의 기조와 대비되는 이례적인 공식 입장으로 풀이된다.

광고

광고주 모집

[email protected]

광고

반복되는 논란과 확장되는 비즈니스 파트너십

Grok의 윤리적 논란은 이번이 처음이 아니다. 지난 5월에는 남아프리카 공화국 관련 인종 차별적 발언으로 비난받았으며, 2개월 뒤에는 반유대주의적 발언을 쏟아내 논란을 빚기도 했다. 이러한 결함에도 불구하고 xAI의 기술은 시장에서 빠르게 영역을 넓히고 있다.

지난달 미 국방부는 자사의 AI 에이전트 플랫폼에 Grok을 추가했으며, 폴리마켓과 칼시 같은 예측 시장 플랫폼에서도 주요 챗봇으로 활용되고 있다. 기술적 성능과 상업적 확장성이 윤리적 리스크보다 앞선 상황에서, 이번 사건이 공공 및 민간 부문 파트너십에 어떤 영향을 미칠지 주목된다.