로블록스, AI로 채팅을 '순화'한다는데

로블록스가 AI를 활용해 실시간으로 욕설과 부적절한 표현을 순화하는 기능을 도입했다. 이는 단순 필터링을 넘어선 새로운 접근이지만 논란도 예상된다.

"욕하면 AI가 고쳐준다"

로블록스에서 "Hurry TF up!"이라고 채팅을 치면, AI가 즉시 "Hurry up!"으로 바꿔준다. 기존의 '#' 기호로 가리는 방식을 넘어선 새로운 접근이다. 로블록스는 오늘부터 실시간 채팅 순화 기능을 전면 도입한다고 발표했다.

이 기능은 단순히 금지어를 차단하는 것이 아니라, "사용자의 원래 의도에 더 가까우면서도 더 정중한 언어로 번역"한다고 로블록스는 설명했다. 메시지가 수정될 때마다 채팅방의 모든 사용자에게 "텍스트가 예의 바르게 수정되었다"는 알림이 표시된다.

1억 8천만 명의 월 활성 사용자를 보유한 로블록스에서 이런 변화는 작지 않다. 특히 사용자의 54%가 13세 미만이라는 점에서 부모들의 관심이 집중된다.

"아이가 게임에서 나쁜 말을 배워오는 게 걱정이었는데 다행"이라는 반응이 있는 반면, "AI가 아이들의 표현을 통제하는 게 맞나"라는 우려도 제기된다. 더 근본적인 질문도 있다. AI가 '정중함'의 기준을 정하는 것이 적절한가?

게임 개발자들에게 이번 발표는 단순한 안전 기능 이상의 의미를 갖는다. 실시간 언어 처리 기술이 상용 서비스에서 어떻게 작동하는지 보여주는 첫 사례 중 하나이기 때문이다.

네이버나 카카오의 게임 부문도 비슷한 기술 도입을 검토 중일 가능성이 높다. 국내 게임사들은 이미 채팅 필터링에 상당한 비용을 투입하고 있는데, AI 기반 순화 기능이 효과적이라면 새로운 대안이 될 수 있다.

하지만 모든 반응이 긍정적이지는 않다. 일부 사용자들은 "AI가 내 말을 마음대로 바꾸는 것"에 대해 불편함을 표했다. 특히 청소년 사용자들 사이에서는 "진짜 내 말이 아니게 된다"는 반발도 나온다.

문화적 차이도 고려해야 할 지점이다. 한국에서는 상황에 따라 거친 표현도 친밀감의 표시로 받아들여지는 경우가 있는데, AI가 이런 맥락을 얼마나 이해할 수 있을까?