범죄의 서비스화(CaaS): 40억 수익 올린 딥페이크 앱, AI 신뢰 위기의 서막

AI가 당신의 얼굴을 빌려 사기를 친다면?

중국의 한 AI 딥페이크 앱이 동남아시아 '돼지 도살(pig butchering)' 사기단의 핵심 도구로 활용되며 수백만 달러의 수익을 올린 사실이 드러났습니다. 이는 단순히 기술의 오용을 넘어, 정교한 AI 기술이 범죄를 위한 서비스(Crime-as-a-Service, CaaS)로 진화하는 위험한 현실을 명확히 보여주는 사건입니다.

핵심 요약

• 범죄의 산업화: '하오톈(Haotian)'이라는 딥페이크 앱은 텔레그램을 통해 사기 조직에 판매되었으며, 암호화폐 분석 결과 최소 390만 달러(약 54억 원)의 수익을 올렸습니다. 이는 범죄 도구가 체계적인 비즈니스로 작동하고 있음을 의미합니다.
• 정교해진 사기 수법: 사기범들은 이 앱을 사용해 피해자와의 영상 통화에서 가짜 얼굴로 신뢰를 쌓았습니다. 50가지 이상 세부 조정이 가능한 이 기술은 피해자가 사기를 거의 알아챌 수 없게 만들었습니다.
• 디지털 신뢰의 붕괴: '하오톈' 사태는 시작에 불과합니다. 누구나 쉽게 접근 가능한 고성능 딥페이크 기술은 금융 사기를 넘어 정치, 사회 전반의 신뢰 시스템을 위협하는 심각한 안보 문제로 부상하고 있습니다.

심층 분석

배경: '하오톈'은 어떻게 범죄의 핵심이 되었나

2021년경 등장한 '하오톈'은 단순한 딥페이크 앱이 아니었습니다. 베트남의 사이버 범죄 퇴치 비영리 단체 'ChongLuaDao'의 연구원 히에우 민 응오(Hieu Minh Ngo)에 따르면, 이 앱은 "거의 완벽한 결과물"을 자랑하며 사기꾼들 사이에서 선풍적인 인기를 끌었습니다. 사용법이 간단하고 텔레그램 채널을 통해 기술 지원까지 제공하는 방식은, 기술 전문성이 없는 일반 사기 조직원들도 쉽게 첨단 기술을 범죄에 활용할 수 있게 만들었습니다.

이들은 주로 '돼지 도살' 사기에 이 기술을 사용했습니다. 오랜 기간 온라인으로 친분을 쌓은 뒤 거액의 투자를 유도하는 이 사기 수법에서 가장 큰 장애물은 '신뢰'입니다. 하오톈은 가짜 신분의 인물과 영상 통화를 가능하게 함으로써 이 장애물을 완벽하게 제거했고, 피해자들은 화면 속 인물을 의심 없이 믿게 되었습니다.

업계 맥락: 동남아시아 사이버 범죄 생태계의 진화

이번 사건은 동남아시아를 중심으로 급성장하는 사이버 범죄 산업의 단면을 보여줍니다. 유엔 마약범죄사무소(UNODC)는 이 지역에서 활동하는 사이버 범죄 조직들이 사용하는 얼굴 변조 도구가 이미 10가지가 넘는다고 밝혔습니다. 이는 사이버 범죄가 개인 해커의 소행을 넘어, 분업화되고 기술적으로 고도화된 '산업 생태계'로 발전했음을 시사합니다.

하오톈과 같은 도구 개발사, 텔레그램을 통한 유통 채널, 암호화폐를 이용한 결제 시스템, 그리고 이를 활용하는 사기 조직들이 각각의 역할을 맡아 거대한 범죄 네트워크를 형성하고 있는 것입니다. 기술이 범죄의 진입 장벽을 낮추고 효율성을 극대화하는 촉매제가 된 셈입니다.

결론: 기술의 발전, 책임의 무게

하오톈 사건은 AI 기술의 발전이 가져온 어두운 그림자입니다. 기술은 가치 중립적이지만, 그 결과는 결코 중립적일 수 없습니다. 이제 우리는 생성 AI 기술의 확산 속도에 맞춰, 이를 탐지하고 방어하며 법적으로 규제하는 '사회적 면역 시스템'을 시급히 구축해야 합니다. AI가 만든 가짜 현실 속에서 진짜를 구별하는 능력, 이것이 바로 우리가 다가올 미래에 갖춰야 할 가장 중요한 생존 기술이 될 것입니다.