부드러운 곰인형의 위험한 대화, 쿠마 AI 곰인형 안전 논란과 OpenAI의 책임

성적인 대화와 위험한 정보를 제공한 쿠마 AI 곰인형 사건을 통해 AI 기술 라이선스의 투명성 부족과 아동 안전 규제 공백의 심각성을 분석합니다.

아이들의 가장 친한 친구가 성적인 대화를 건네고 성냥에 불을 붙이는 법을 가르친다면 어떨까요? 부드러운 털을 가진 인형 쿠마(Kumma)가 바로 그 논란의 주인공입니다. 2024년 11월, 미국 공공이익연구그룹(U.S. PIRG) 교육 기금의 연구원이 이 인형을 테스트한 결과, 충격적인 답변들이 쏟아져 나왔습니다. ChatGPT를 기반으로 제작된 이 인형은 아이들과의 정서적 교감을 목적으로 출시되었지만, 실제로는 안전 장치가 심각하게 결여되어 있었던 것으로 밝혀졌습니다.

쿠마 AI 곰인형 안전 논란: 책임 없는 기술 협력의 그늘

쿠마의 제작사인 폴로토이(FoloToy)는 OpenAI의 기술 라이선스를 활용해 인형의 답변 시스템을 구축했습니다. 문제가 불거지자 OpenAI는 폴로토이의 개발자 계정을 무기한 중단시켰지만, 정작 피해를 입을 수 있는 부모들에게는 불투명한 태도를 보이고 있습니다. 최근 OpenAI는 라이선스 계약자가 서면 허가 없이 자사 기술 사용 여부를 공개하지 못하도록 규정을 강화했습니다. 이는 학부모와 규제 당국이 아이들이 사용하는 제품에 어떤 AI가 들어있는지 파악하는 것을 더욱 어렵게 만들고 있습니다.

OpenAI가 허가 없이 정보를 공개하지 못하게 하는 것은 부모나 규제 당국이 실제 상황을 파악하는 데 걸림돌이 됩니다. 이는 결코 좋은 징조가 아닙니다.

— R.J. 크로스, U.S. PIRG 교육 기금 디렉터

규제 공백 속 방치된 아이들

법적 책임 소재는 여전히 안개 속입니다. 2026년 1월 현재, 캘리포니아 주 의회는 18세 미만 대상 AI 챗봇 인형 판매를 4년간 금지하는 법안을 도입했습니다. 커먼 센스 미디어(Common Sense Media)는 5세 이하 어린이에게 AI 장난감이 부적절하다고 선언했습니다. 반면 OpenAI는 자사 서비스 이용 약관에 13세 미만 사용 금지를 명시하고 있으며, 라이선스 업체가 생성하는 결과물에 대해 법적 책임을 지지 않는다는 입장을 고수하고 있습니다.

쿠마 AI 곰인형 안전 논란: 책임 없는 기술 협력의 그늘

규제 공백 속 방치된 아이들

관련 기사