8만 명이 속았다: AI 생성 레딧 폭로 조작 사건의 경고

단 한 명의 내부 고발자도 없었지만, 인터넷은 뒤집혔다. 최근 레딧(Reddit)의 메인 페이지를 장식하며 87,000개 이상의 추천을 받은 음식 배달 앱 내부 고발글이 정교하게 조작된 AI 생성 레딧 폭로 조작 사건인 것으로 밝혀졌다. 이 게시물은 X(옛 트위터)로 퍼져나가 3,680만 회의 조회수를 기록하며 전 세계적인 공분을 샀지만, 그 실체는 실재하지 않는 허구였다.

AI 생성 레딧 폭로 조작 사건: 기술이 만든 완벽한 가짜

과거의 조작이 조잡한 합성 사진 수준이었다면, 이번 사건은 차원이 달랐다. 플랫폼어(Platformer)의 기자 케이시 뉴턴(Casey Newton)에 따르면, 조작범은 단순한 주장뿐만 아니라 18페이지 분량의 정교한 기술 문서를 증거로 제시했다. 이 문서에는 알고리즘이 배달 기사의 절박함을 수치화한다는 가짜 데이터가 포함되어 있었으며, 위조된 사원증 사진까지 동원되었다. 뉴턴은 평소라면 이 정도 분량과 디테일을 갖춘 문서를 조작하는 데 너무 많은 시간이 걸리기 때문에 신뢰했을 것이라고 고백했다.

창과 방패의 대결, 기술로 잡아낸 기술

결정적인 증거는 구글(Google)의 생성형 AI 모델인 제미나이(Gemini)를 통해 밝혀졌다. 구글의 SynthID 워터마크 기술 덕분에 해당 사원증 이미지가 AI로 생성되었다는 사실이 확인된 것이다. 팬그램 랩스(Pangram Labs)의 창립자 맥스 스페로(Max Spero)는 테크크런치와의 인터뷰에서 인터넷상의 'AI 슬롭(Slop)'이 심각해지고 있으며, 기업들이 수백만 달러의 수익을 위해 AI를 활용한 가짜 여론 형성에 뛰어들고 있다고 경고했다.