틱톡숍 나치 상징 알고리즘 논란: '힙합' 검색이 혐오로 이어지는 이유

당신의 자녀가 평범한 액세서리를 검색하다가 나치 상징물을 추천받는다면 어떨까요? 틱톡(TikTok)의 이커머스 플랫폼인 틱톡숍(TikTok Shop)이 알고리즘을 통해 사용자들에게 나치 문양과 백인 우월주의 관련 검색어를 지속적으로 노출하고 있다는 사실이 드러나 충격을 주고 있습니다.

틱톡숍 나치 상징 알고리즘의 위험한 유도 방식

외신 와이어드(WIRED)의 보도에 따르면, 틱톡숍에서 '힙합 주얼리'를 검색할 경우 알고리즘이 '나치 문양(swastika) 주얼리'나 '독일 2차대전 목걸이'와 같은 혐오 표현이 담긴 검색어를 제안하는 것으로 확인되었습니다. 실제로 작년 말에는 '힙합 티타늄 스틸 펜던트'라는 이름으로 위장한 나치 문양 목걸이가 단돈 8달러에 판매되어 사용자들의 거센 항의를 받기도 했습니다.

광고

광고주 모집

[email protected]

광고

전문가들은 이를 단순한 기술적 오류가 아닌 의도적인 '레이지 베이팅(Rage-baiting, 분노 유발)' 전략으로 분석합니다. 조안 도노반(Joan Donovan) 박사는 제품 설명에 포함된 '힙합'이라는 단어가 극우주의자들이 알고리즘의 감시를 피하고 노출을 극대화하기 위해 사용하는 '개호각(dog-whistle)' 신호일 수 있다고 경고했습니다.

틱톡의 대응과 남겨진 과제

틱톡 측은 해당 검색 제안이 가이드라인을 위반했음을 인정하고 삭제 조치에 나섰다고 밝혔습니다. 틱톡의 발표에 따르면, 이들은 2025년 상반기에만 70만 명의 판매자를 퇴출하고 20만 개의 금지 품목을 제거했습니다. 하지만 인디애나 대학교의 필리포 멘처(Filippo Menczer) 교수는 알고리즘의 세부 작동 방식이 불투명하기 때문에, 이것이 단순한 유기적 연결인지 아니면 특정 세력에 의한 조작인지는 여전히 알 수 없다고 지적했습니다.