로블록스가 욕설을 자동으로 순화한다고?

로블록스가 AI 기반 실시간 채팅 순화 기능을 도입. 기존 '#' 처리를 넘어 자연스러운 문장으로 변환. 아이들의 온라인 대화 문화는 어떻게 바뀔까?

1억 명이 매일 쓰는 플랫폼의 실험

"빨리 해!"라고 채팅에 썼는데 "####"로만 보인다면? 로블록스 유저들이 매일 겪는 일이다. 하지만 이제 AI가 이 메시지를 "빨리 하자!"로 자동 순화해준다. 로블록스가 목요일 발표한 실시간 AI 채팅 순화 기능이다.

기존 텍스트 필터는 금지된 단어를 단순히 '#' 기호로 대체했다. 하지만 "####" 투성이 대화는 소통을 방해했다. 새 기능은 사용자의 원래 의도를 파악해 더 정중한 표현으로 바꿔준다. 모든 참여자에게 메시지가 순화되었음을 알려준다.

라지브 바티아 로블록스 부사장은 "채팅은 로블록스에서 사람들이 연결되고 협력하는 핵심"이라고 말했다. 하지만 부모들의 반응은 복잡하다.

한 학부모는 "아이가 순화된 표현만 보게 되면, 실제 세상의 거친 언어에 더 취약해질 수 있다"고 우려했다. 반면 다른 부모는 "최소한 게임하면서 욕설에 노출되지 않으니 다행"이라고 반응했다.

로블록스는 더 심각한 행동에 대해서는 기존 안전 시스템이 유지된다고 강조했다. 개인정보 공유나 요청을 탐지하는 능력도 20배 향상되었다고 밝혔다.

광고주 모집

이 기술은 네이버와 카카오의 메신저, 넥슨과 엔씨소프트의 게임에도 적용 가능하다. 특히 한국의 강력한 게임 규제 환경에서 자율적 콘텐츠 관리 도구로 활용될 수 있다.

게임업계 관계자는 "정부 규제 대신 기술로 해결하는 접근법이 인상적"이라며 "다만 AI가 한국어의 미묘한 뉘앙스까지 파악할 수 있을지는 의문"이라고 말했다.

로블록스는 현재 자동 번역 도구가 지원하는 모든 언어에서 이 기능을 사용할 수 있다고 발표했다. 한국어도 포함된다.

이번 발표는 로블록스가 직면한 법적 압박과 무관하지 않다. 텍사스, 켄터키, 루이지애나 주 검찰총장들이 아동 안전 문제로 소송을 제기한 직후다. 그루밍과 선정적 콘텐츠 노출이 주요 쟁점이었다.

로블록스는 최근 채팅 접근을 위한 얼굴 인증도 의무화했다. 연이은 안전 강화 조치다.