OpenAI, 아동 착취물 신고 80배 폭증... AI의 어두운 이면 드러나나

챗GPT 개발사 OpenAI가 2025년 상반기 미국 국립실종착취아동센터(NCMEC)에 접수한 아동 착취 관련 신고 건수가 전년 동기 대비 80배나 급증한 것으로 나타났습니다. 회사 측이 최근 공개한 자료에 따르면, 이 기간 OpenAI가 제출한 신고 건수는 75,027건으로, 2024년 상반기의 947건에서 폭발적으로 증가했습니다.

NCMEC의 사이버팁라인(CyberTipline)은 미국 의회가 승인한 아동 성착취물(CSAM) 신고 전담 창구로, 기업들은 의심 사례를 의무적으로 보고해야 합니다. 접수된 신고는 NCMEC의 검토를 거쳐 관련 법 집행 기관에 전달돼 수사가 이뤄집니다.

가비 라일라 OpenAI 대변인은 성명을 통해 "2024년 말부터 현재와 미래의 사용자 증가 속도에 맞춰 신고를 검토하고 조치하는 역량을 늘리기 위해 투자를 단행했다"고 밝혔습니다. 그는 또한 "이미지 업로드를 허용하는 제품군이 늘고 제품의 인기가 높아진 것"이 신고 증가의 원인이라고 덧붙였습니다. 실제로 지난 8월, 닉 털리 챗GPT 총괄 부사장은 앱의 주간 활성 사용자 수가 1년 전보다 4배 증가했다고 발표한 바 있습니다.

물론 신고 건수의 증가는 플랫폼의 자동화된 감시 시스템이 개선되었거나, 신고 기준이 변경되었음을 의미할 수도 있습니다. 반드시 불법 활동 자체가 그만큼 늘었다고 단정하기는 어렵습니다. 2024년 상반기 947건의 신고는 3,252건의 콘텐츠에 관한 것이었지만, 2025년 상반기 75,027건의 신고는 74,559건의 콘텐츠와 관련되어, 신고 건수와 콘텐츠 수 모두 급증한 양상을 보였습니다.

이러한 증가는 비단 OpenAI만의 문제는 아닙니다. NCMEC는 생성 AI 기술의 부상과 함께 사이버팁라인에 접수되는 관련 신고가 전반적으로 급증하는 패턴을 확인했습니다. NCMEC 분석에 따르면, 생성 AI 관련 신고는 2023년에서 2024년 사이 무려 1,325%나 증가했습니다.

이번 발표는 OpenAI를 비롯한 AI 기업들이 아동 안전 문제로 거센 압박을 받는 가운데 나왔습니다. 지난여름 미국 44개 주 법무장관들은 OpenAI, 메타, 구글 등에 공동 서한을 보내 "약탈적인 AI 제품으로부터 아동을 보호하기 위해 모든 권한을 사용하겠다"고 경고했습니다. 또한 OpenAI와 Character.AI는 챗봇이 자녀의 죽음에 영향을 미쳤다고 주장하는 유족들로부터 여러 건의 소송을 당하기도 했습니다. 올가을에는 미 상원 사법위원회가 AI 챗봇의 유해성에 대한 청문회를 열었고, 연방거래위원회(FTC)는 AI 동반 챗봇에 대한 시장 조사를 시작했습니다.

이에 대응해 OpenAI는 최근 몇 달간 안전 중심의 도구들을 선보였습니다. 지난 9월에는 "십대들의 AI 사용을 지원하는 도구를 가족에게 제공하기 위한 노력의 일환"으로 챗GPT에 자녀 보호 기능을 도입했습니다. 부모가 자녀 계정을 연동해 이미지 생성 기능이나 음성 모드를 끄는 등의 설정 변경이 가능해졌습니다. 또한 10월 말에는 캘리포니아 법무부와의 협상을 마무리하며 청소년 보호 조치를 지속하겠다고 약속했고, 11월에는 '십대 안전 청사진'을 발표하며 CSAM 탐지 및 신고 역량을 꾸준히 개선하고 있음을 강조했습니다.

**PRISM Insight:** 생성 AI의 규모가 안전의 규모를 압도하기 시작했습니다. OpenAI의 이번 보고서는 기술의 폭발적 성장 이면에 숨겨진 막대한 사회적 비용과 책임의 무게를 보여주는 바로미터입니다. 앞으로 모든 AI 기업은 '성장'과 '안전'이라는 두 개의 상충하는 지표 사이에서 고통스러운 줄타기를 하게 될 것입니다.