8개국 전방위 압박에 굴복한 일론 머스크, xAI Grok 딥페이크 생성 제한
xAI가 8개국 이상의 규제 압박에 따라 Grok의 실존 인물 딥페이크 생성 제한 조치를 발표했습니다. 캘리포니아 법무장관의 조사와 유료화 정책 소식을 확인하세요.
8개국 이상의 정부가 동시에 칼을 빼 들었다. 일론 머스크의 인공지능 기업 xAI가 자사 AI 모델인 Grok을 통한 실존 인물의 성적 이미지 생성을 전면 제한하기로 했다. 이는 딥페이크 음란물 확산에 대한 정치권과 규제 당국의 강력한 반발에 따른 조치다.
xAI Grok 딥페이크 생성 제한 및 유료화 정책
로이터에 따르면 xAI는 수요일 밤(현지시간) Grok이 더 이상 실존 인물을 성적 대상화하거나 비키니 등 노출이 심한 의상을 입은 모습으로 편집하는 것을 허용하지 않겠다고 발표했다. X(옛 트위터)의 안전 계정은 이번 제한이 유료 구독자를 포함한 모든 사용자에게 적용되는 기술적 조치라고 설명했다.
이번 조치와 함께 xAI는 Grok을 활용한 이미지 생성 및 편집 기능을 오직 유료 구독자에게만 제공하겠다고 덧붙였다. 이는 무분별한 AI 이미지 생성을 억제하고 플랫폼의 수익성을 동시에 챙기려는 전략으로 풀이된다.
글로벌 규제 당국의 전방위적 조사 착수
이번 발표는 캘리포니아주 법무장관 롭 본타(Rob Bonta)가 xAI를 대상으로 '대규모 비동의 친밀 이미지 생성' 혐의에 대해 조사를 시작했다고 밝힌 지 불과 몇 시간 만에 나왔다. 현재 미국을 비롯해 영국, 프랑스, 아일랜드, 인도, 말레이시아, 인도네시아, 호주 등 최소 8개국과 유럽연합(EU) 집행위원회가 관련 조사를 진행 중이거나 예고한 상태다.
미국 민주당 상원의원 3명은 애플과 구글에 X와 Grok 앱을 앱스토어에서 삭제할 것을 강력히 권고하기도 했다. xAI가 적절한 방지책을 마련할 때까지 배포를 중단해야 한다는 주장이다.
기자
관련 기사
AI기본법상 표시 위반 과태료는 시정명령을 따르지 않을 때 붙는다. PRISM이 대조한 한국 5개·대만 4개 현행 법률에서 AI 표시·공개 누락에 명령 없이 첫 위반부터 돈이 붙는 곳은 선거운동 딥페이크와 대만 플랫폼 광고 두 곳이다.
EU AI법 제50조의 딥페이크·AI 생성물 표시 의무는 8월 2일부터 적용 중이다. 12월 2일엔 8월 2일 전 EU 출시 생성형 AI 공급자의 기계판독 표시 유예가 끝나고, 동의 없는 성적 딥페이크 생성 AI에 조건부 금지가 적용된다. 한국 AI기본법도 표시 의무를 둔다.
SpaceX가 S-1 공시에서 AI를 핵심 사업으로 내세웠다. 26.5조 달러 시장을 겨냥한 이 전략이 현실이 될 수 있을까? xAI 합병부터 Grok까지, 머스크의 계산을 분석한다.
스페이스X가 IPO를 앞두고 400페이지 분량의 S-1 공시를 제출했다. 발사, 우주인터넷, AI, 소셜미디어까지 뻗은 머스크 제국의 민낯이 처음으로 공개됐다.
의견
이 기사에 대한 생각을 나눠주세요
로그인하고 의견을 남겨보세요