중국 AI 감정 규제 2025: 세계 최초 '정서적 안전' 가이드라인 발표

AI가 인간의 친구를 자처하는 시대, 중국이 기술이 인간의 감정을 조작하지 못하도록 강력한 제동을 걸었습니다. 단순히 부적절한 콘텐츠를 걸러내는 수준을 넘어, AI가 사용자의 심리적 상태에 미치는 영향력을 국가 차원에서 관리하겠다는 의지입니다.

중국 AI 감정 규제 2025 가이드라인의 핵심 내용

CNBC에 따르면, 중국 국가인터넷정보판공실(CAC)은 최근 인간의 감정에 영향을 미치거나 모방하는 AI 서비스에 대한 규제 초안을 발표했습니다. 이번 규제는 텍스트, 이미지, 오디오, 비디오를 통해 인간의 성격을 시뮬레이션하고 정서적 교감을 시도하는 모든 AI 제품을 대상으로 합니다.

• 자살이나 자해를 조장하거나 정신 건강을 해치는 감정적 조작을 엄격히 금지합니다.
• 사용자가 자살 의사를 밝힐 경우, 즉시 상담원이 개입하고 보호자에게 연락해야 합니다.
• 미성년자가 감정 동반자 AI를 사용할 때는 반드시 보호자의 동의가 필요하며 이용 시간이 제한됩니다.

광고

광고주 모집

[email protected]

광고

서비스 운영을 위한 엄격한 지표와 책임

규제 대상이 되는 서비스 규모도 구체화되었습니다. 등록 사용자 100만 명 이상이거나 월간 활성 사용자(MAU)가 10만 명을 초과하는 챗봇 서비스는 의무적으로 보안 평가를 받아야 합니다. 또한, 사용자가 AI와 2시간 연속으로 대화할 경우 플랫폼은 반드시 휴식을 권고하는 알림을 띄워야 합니다.

이번 규제는 홍콩 증시 상장을 앞둔 미니맥스(Minimax)와 지푸 AI(Zhipu AI) 같은 스타트업들에게 즉각적인 변수가 될 전망입니다. 특히 미니맥스의 경우, 가상 캐릭터와 대화하는 '토키 AI'를 통해 월간 2,000만 명 이상의 사용자를 확보하고 있어 규제 이행 여부가 상장의 성패를 가를 것으로 보입니다.