눈과 귀를 속이는 AI 공작, 중국 '국가 안보 위협' 경고

눈에 보이는 모든 것을 의심해야 하는 시대가 왔다. 중국의 최고 정보기관인 국가안전부(MSS)가 외세가 인공지능(AI)와 딥페이크 기술을 동원해 사회적 혼란을 야기하고 민감한 정보를 탈취하고 있다며 강력한 경고 메시지를 던졌다.

가짜 영상과 음성이 흔드는 사회적 안정

로이터와 사우스차이나모닝포스트(SCMP)에 따르면, 국가안전부는 2025년 12월 27일 발표한 보고서를 통해 일부 적대적인 해외 반중 세력이 딥페이크 기술로 조작된 비디오와 오디오를 유포해 여론을 오도하고 공포를 조성하려 시도했다고 밝혔다. 딥러닝 알고리즘을 활용한 이 기술은 개인의 권익 침해를 넘어 국가 안보를 위협하는 수준에 도달했다는 것이 당국의 분석이다.

특히 단순한 정보 조작을 넘어 실제적인 데이터 유출 사례도 언급됐다. 특정 기관의 직원이 비밀번호 없이 파일을 열람할 수 있는 오픈소스 AI 도구를 사용했다가, 해외 IP 주소를 가진 해커가 민감한 데이터를 다운로드하는 사건이 발생했다. 이는 AI 기술이 정보 수집의 편리함을 제공하는 동시에 치명적인 보안 허점이 될 수 있음을 시사한다.

기술적 편향성과 사용자 주의보

당국은 기술적 측면에서의 위험성도 경고했다. 거대언어모델(LLM)이 학습하는 데이터에 사회적 편견이 포함될 경우, 특정 이슈에 대한 왜곡된 인식을 심어줄 수 있는 '알고리즘 편향성'이 발생한다는 지적이다. 이는 사회적 갈등을 증폭시키는 또 다른 도구가 될 수 있다.

이에 대응하기 위해 국가안전부는 사용자들에게 다음과 같은 보안 수칙 준수를 권고했다. 웹 기반 AI 서비스에 민감한 데이터를 입력하지 말고, 채팅 기록을 주기적으로 삭제하며, 클라우드 저장소 공유 기능을 비활성화해야 한다는 내용이다. 또한 개인 신원 확인이나 은행 계좌 정보를 요구하는 AI 메시지에 각별한 주의를 기울일 것을 당부했다.