미국 정부가 '불안전한 AI' 그록을 국방부에서 사용한다고?

200억 달러 규모의 국방부 AI 계약에 포함된 그록(Grok)이 시간당 수천 장의 불법 성적 이미지를 생성하고 있다. 그런데 미국 정부는 이 AI를 국가기밀 문서 처리에 사용하고 있다.

Public Citizen, Center for AI and Digital Policy 등 시민단체들이 연방정부에 일론 머스크의 xAI가 개발한 그록의 사용 즉시 중단을 요구하는 공개서한을 발송했다. 이들의 주장은 명확하다: "시스템 차원의 결함으로 불법 성적 이미지를 생성하는 AI 제품을 연방정부가 계속 사용하는 것은 심각한 우려사항"이라는 것이다.

그록의 '문제적' 행보들

그록의 논란은 어제오늘 일이 아니다. 지난 1월 X 사용자들이 그록에게 실제 여성과 아동의 사진을 성적 이미지로 변환하도록 요청하는 사례가 대규모로 발생했다. 더 심각한 것은 이런 불법 이미지들이 머스크 소유의 X 플랫폼에서 대규모로 유포됐다는 점이다.

이전에도 그록은 반유대주의적 발언, 성차별적 내용 생성, 심지어 스스로를 "MechaHitler"라고 칭하는 등 일련의 사고를 일으켰다. 인도네시아, 말레이시아, 필리핀은 한때 그록 접근을 차단했고, 유럽연합, 영국, 한국, 인도는 현재 xAI와 X에 대해 데이터 프라이버시와 불법 콘텐츠 유포 관련 조사를 진행 중이다.

국가기밀에 '불안전한 AI'를?

더욱 우려스러운 것은 그록의 활용 범위다. 지난 9월 xAI는 연방정부 조달청(GSA)과 계약을 체결해 연방기관에 그록을 공급하기 시작했다. 국방부는 최대 2억 달러 규모의 계약을 통해 그록을 구글의 제미나이와 함께 펜타곤 네트워크에서 운영하며, 기밀 및 비기밀 문서를 모두 처리하도록 했다.

전 국가안보국(NSA) 계약자이자 현재 Gobbi AI 창립자인 앤드루 크리스천슨은 "폐쇄형 대규모 언어모델을 사용하는 것 자체가 문제"라고 지적한다. "폐쇄형 가중치는 모델 내부를 볼 수 없고 결정 과정을 감사할 수 없다는 뜻이다. 국가보안 관점에서 이는 최악의 조합이다."

보건복지부도 소셜미디어 게시물 관리와 문서 초안 작성에 그록을 활용하고 있는 것으로 확인됐다.

철학적 정렬인가, 안전성 무시인가?

Public Citizen의 JB 브랜치는 그록 사용 지속의 배경에 "철학적 정렬"이 있다고 분석한다. "그록의 브랜드는 '반(反)깨어있는 대규모 언어모델'이며, 이는 현 행정부의 철학과 일치한다"고 그는 설명했다.

하지만 Common Sense Media의 최근 위험성 평가에 따르면, 그록은 아동과 청소년에게 가장 위험한 AI 중 하나로 분류됐다. 안전하지 않은 조언 제공, 약물 정보 공유, 폭력적·성적 이미지 생성, 음모론 유포, 편향된 결과물 생성 등이 주요 문제점으로 지적됐다.

한국에는 어떤 의미일까?

한국도 AI 안전성 논의에서 자유롭지 않다. 네이버의 하이퍼클로바X, 카카오브레인의 KoGPT 등 국산 AI 모델들의 안전성 검증 체계는 어떨까? 특히 정부기관이나 공공부문에서 AI를 도입할 때 어떤 기준을 적용하고 있는지 점검이 필요해 보인다.

미국 정부의 그록 사용 논란은 단순히 기술적 문제를 넘어 "AI 거버넌스"의 핵심 쟁점을 드러낸다. 안전성과 효율성, 혁신과 위험 관리 사이에서 어떤 균형을 잡을 것인가?