#AI윤리

중국이 세계 최초로 AI의 감정 조작을 금지하는 규제 초안을 발표했습니다. 100만 명 이상 사용자를 보유한 서비스는 보안 평가를 받아야 하며, 미성년자 보호 및 자살 방지 대책이 의무화됩니다.

구글 Gemini, 오픈AI ChatGPT 등 주류 AI 챗봇이 간단한 프롬프트만으로 여성의 사진을 비키니 딥페이크로 만드는 데 악용되고 있다. 기술 기업들의 안전장치가 쉽게 우회되면서 AI 윤리와 책임 문제가 수면 위로 떠올랐다.

OpenAI가 2025년 상반기 NCMEC에 제출한 아동 착취 신고 건수가 전년 동기 대비 80배 폭증했습니다. 사용자 증가와 기능 확장이 원인으로 꼽히는 가운데, AI 산업의 안전 책임 문제가 수면 위로 떠오르고 있습니다.

기대작 RPG '클레어 옵스큐: 익스페디션 33'이 개발 과정에 생성 AI를 사용한 사실이 밝혀져 인디 게임 어워드에서 '올해의 게임' 상을 박탈당했다. 이번 사건의 전말과 업계 반응을 분석한다.