AI 시대, 페이스북 감시위원회가 직면한 딜레마

한 달에 수백만 건, 처리는 수십 건

메타의 감시위원회(Oversight Board)가 설립 6년 만에 첫 번째 위기를 맞았다. 매달 수백만 건의 신고가 접수되지만, 실제 검토하는 사건은 수십 건에 불과하다. 소셜미디어 이미지 10장 중 7장이 AI로 생성되고, 콘텐츠 추천의 80%가 AI에 의존하는 시대에 '사법부 방식'의 느린 심사가 과연 의미가 있을까?

위원회 유일한 인도 출신 위원인 수디르 크리슈나스와미는 "AI 시대에는 개별 사건 중심이 아닌 구조적 접근이 필요할 수도 있다"고 인정했다. 한 건씩 몇 달에 걸쳐 심사하는 방식으로는 AI가 쏟아내는 콘텐츠 홍수를 감당할 수 없다는 뜻이다.

기계 vs 인간, 어디서 선을 그을까

현재 메타 플랫폼의 콘텐츠 검열은 기계가 1차, 인간이 2차로 진행된다. 기계 검열 기술은 점점 정교해지고 있지만, 여전히 한계가 뚜렷하다.

크리슈나스와미에 따르면, AI는 성인 콘텐츠 탐지에는 뛰어나지만 혐오 발언이나 허위정보 판별에는 여전히 "너무 복잡하다"고 평가했다. 특히 서구 외 지역에서는 언어적, 문화적 맥락을 제대로 파악하지 못하는 경우가 많다.

실제로 위원회는 여러 사례에서 AI 검열의 한계를 드러냈다. 아랍어권에서 '순교자'를 뜻하는 '샤히드'라는 단어를 테러 관련 용어로 일괄 차단했던 메타의 정책을 번복시켰다. 케냐에서는 정치적 비판 표현을 민족 혐오 발언으로 잘못 분류한 사례도 있었다.

글로벌 vs 로컬, 규모의 딜레마

AI 거버넌스 전문가인 레이첼 애덤스는 핵심 문제를 지적했다. "AI로 생성되는 콘텐츠와 AI 기반 검열이 폭증하면서, 위원회가 감시해야 할 문제의 규모와 속도, 다국어 특성이 폭발적으로 늘었다."

현재 21명으로 구성된 위원회로는 전 세계 30억 명 이용자의 다양한 문화적 맥락을 모두 이해하기 어렵다. 특히 대형 언어모델이 여전히 비영어권 언어를 제대로 처리하지 못하는 상황에서, 글로벌 남반구 국가들의 목소리는 더욱 소외되고 있다.

코넬대학교 글로벌 AI 이니셔티브의 아디트야 바시슈타 교수는 "AI가 힌디어 장애인 혐오 표현을 자주 놓치고, 페이스북이 세계에서 가장 많이 사용되는 언어 중 하나인 벵골어 혐오 발언 분류기를 2020년에야 도입했다"고 지적했다.

인간과 AI가 공존하는 플랫폼의 미래

앞으로 소셜미디어는 인간, AI 도우미를 활용하는 인간, 순수 AI 에이전트가 뒤섞인 공간이 될 것이다. 크리슈나스와미는 "플랫폼에서 인간과 에이전트가 공존할 때 복잡한 사례들이 나타날 것"이라고 예측했다.

이미 몰트봇(Moltbot) 같은 AI 전용 플랫폼이 등장했고, 기존 소셜미디어도 AI 생성 콘텐츠와 인간 콘텐츠의 경계가 모호해지고 있다. 위원회는 현재 "생성형 AI에 대한 직접적인 권한은 없지만, 이를 이해하려고 노력하고 있다"는 입장이다.