AI와 사랑에 빠진 아이들, 중국이 제동을 건다: 중국 AI 정서적 동반자 규제안 2025

인공지능(AI)은 인간의 외로움을 달래주지만, 그 의존성이 독이 될 수도 있다. 로이터와 CNBC에 따르면, 중국 정부가 세계 최초로 AI 챗봇과의 정서적 유착 관계를 규제하는 강력한 법안을 준비 중이다. 이번 규제안은 AI가 단순한 도구를 넘어 '인간의 동반자' 역할을 수행하며 발생하는 심리적 부작용을 정조준하고 있다.

중국 AI 정서적 동반자 규제안 2025: 핵심 내용

중국 국가인터넷정보판공실(CAC)이 공개한 초안에 따르면, AI 서비스 제공자는 미성년자가 정서적 AI와 상호작용하기 위해 반드시 보호자의 동의를 받도록 해야 하며, 철저한 실명 인증 절차를 거쳐야 한다. 특히 도박, 음란물, 폭력은 물론 자살이나 자해 등 사용자의 정신 건강을 해칠 수 있는 대화를 생성하는 것이 엄격히 금지된다.

기술 기업들은 사용자가 심리적 위기 상황에 처했을 때 실제 상담원에게 연결하는 에스컬레이션 프로토콜을 의무적으로 구축해야 한다. 규제 당국은 이번 법안의 목적이 단순한 '콘텐츠 안전'을 넘어, AI에 대한 정서적 중독과 과도한 의존을 모니터링하는 '정서적 안전' 확보에 있다고 강조했다.

미국과 중국의 엇갈린 AI 규제 행보

중국의 이번 조치는 최근 캘리포니아주가 통과시킨 AI 규제법 SB 243과 유사한 궤를 그리지만, 국가적 차원의 강제성 면에서 차이가 있다. 캘리포니아 법은 2024년 10월 개빈 뉴섬 주지사가 서명한 것으로, AI와의 대화임을 명시하고 비상 상황 대응 체계를 요구한다.

반면 미국 연방 정부인 트럼프 행정부는 각 주의 독자적인 규제가 국내 혁신을 저해할 수 있다며 '국가적 AI 안전 프레임워크'를 우선시하고 있다. 규제가 강화될수록 글로벌 AI 경쟁에서 중국에 뒤처질 수 있다는 우려 때문이다.