X Grok 딥페이크 이미지 생성 규제 강화에도 보안 구멍 여전

방패는 세웠지만 창은 여전히 날카롭습니다. 소셜 미디어 플랫폼 X가 인공지능 에이전트인 Grok(그록)의 이미지 편집 기능을 제한하고 나섰지만, 보안 허점은 여전한 것으로 드러났습니다.

X Grok 딥페이크 이미지 생성 규제의 실효성 논란

최근 X에서는 비동의 성 착취물 딥페이크 확산이 심각한 문제로 떠올랐습니다. 로이터와 더 텔레그래프에 따르면, X는 실제 인물의 이미지를 부적절하게 편집하려는 시도를 차단하기 위해 정책을 변경했습니다. 화요일부터 특정 키워드가 포함된 프롬프트에 대해 검열을 시작한 것으로 알려졌습니다.

하지만 수요일 진행된 더 버지의 자체 테스트 결과는 충격적입니다. 정책 강화 발표에도 불구하고 여전히 선정적인 딥페이크 이미지가 생성되는 것을 확인했기 때문입니다. 이에 대해 일론 머스크는 "사용자들의 요청과 예상치 못한 프롬프트 해킹 방식 때문"이라며 기술적 결함을 우회적으로 시인했습니다.