AI 챗봇도 이제 검열 대상, 영국이 던진 '디지털 육아' 화두

일론 머스크의 X 플랫폼 챗봇 'Grok'이 아동을 포함한 성적 이미지를 생성했다는 논란이 터진 지 한 달. 영국 정부가 내놓은 답은 명확했다. "어떤 플랫폼도 예외는 없다."

키어 스타머 영국 총리는 16일 ChatGPT, Gemini, 코파일럿 같은 AI 챗봇을 온라인 안전법 적용 대상에 포함시키겠다고 발표했다. 이제 이들 챗봇도 불법 콘텐츠 차단 의무를 져야 하고, 위반 시 벌금이나 차단 조치를 받을 수 있다.

16세 미만 소셜미디어 금지, 유럽이 움직인다

영국의 이번 조치는 고립된 움직임이 아니다. 지난 12월 호주가 16세 미만 소셜미디어 이용을 전면 금지하는 세계 첫 법안을 통과시켰고, 스페인이 이달 유럽 첫 시행국이 됐다. 프랑스, 그리스, 이탈리아, 덴마크, 핀란드도 비슷한 법안을 검토 중이다.

영국 역시 16세 미만 소셜미디어 금지에 대한 공개 의견 수렴을 이달 시작했다. 상원은 이미 관련 법안 개정안을 통과시켰고, 하원 심의를 기다리고 있다.

한국 부모들도 고민은 마찬가지

네이버, 카카오가 AI 서비스를 확장하고, 국내 학생들도 숙제에 ChatGPT를 활용하는 시대다. 영국의 규제 강화는 한국에도 시사점을 던진다.

특히 영국이 도입하려는 조치들을 보면, 무한 스크롤 제한, AI 챗봇 사용 제한, VPN 접근 제한 등이 포함돼 있다. 아동이 사망한 경우 온라인 활동과 명백히 무관하지 않은 이상 소셜미디어 회사가 데이터를 보존하도록 하는 조치도 있다.

국내에서도 청소년 온라인 안전 문제가 꾸준히 제기되고 있지만, 아직 구체적인 규제안은 나오지 않은 상태다. 교육부와 방송통신위원회가 관련 정책을 검토하고 있지만, 영국처럼 강력한 조치까지는 거리가 있어 보인다.

기술 vs 사용 사례, 규제 패러다임의 변화

법무법인 시먼스앤시먼스의 알렉스 브라운은 "영국 정부가 기술 자체가 아닌 사용 사례를 규제하던 전통적 접근에서 벗어나고 있다"고 분석했다. 생성형 AI가 기존 온라인 안전법의 한계를 드러내면서, 정부가 "사용자 생성 콘텐츠나 플랫폼 기능뿐 아니라 기술 자체의 설계와 행동에서 발생하는 위험"을 다루려 한다는 것이다.

이는 규제 철학의 근본적 변화를 의미한다. 그동안 "기술은 중립적"이라는 전제 하에 사용자나 플랫폼 책임을 물었다면, 이제는 AI 기술 자체의 위험성을 인정하고 사전 규제에 나서는 것이다.