머스크의 X, '조작된 미디어' 라벨링 도입... 그런데 기준은 비밀

엘론 머스크가 또 다른 폭탄을 던졌다. 이번에는 X에서 편집된 이미지를 구별해내겠다는 것이다. 하지만 어떻게 구별할지는 말하지 않았다.

신비로운 발표, 모호한 계획

1월 28일, 머스크는 단 세 단어로 새로운 기능을 예고했다. "편집된 시각물 경고(Edited visuals warning)". 그가 리트윗한 DogeDesigner 계정의 게시물에 따르면, 이 기능은 "기존 언론사들이 오해의 소지가 있는 영상이나 사진을 퍼뜨리기 어렵게 만들 것"이라고 했다.

하지만 구체적인 내용은 여전히 베일에 싸여 있다. X는 어떤 기준으로 이미지가 '조작됐다'고 판단할 것인가? 포토샵으로 편집한 일반적인 사진도 포함되는가? 이런 기본적인 질문에 대한 답은 없다.

사실 트위터 시절부터 조작된 미디어에 대한 정책은 있었다. 2020년에는 "선택적 편집이나 자르기, 속도 조절, 더빙, 자막 조작" 등을 포함한 광범위한 기준을 적용했다고 당시 사이트 무결성 책임자 요엘 로스가 밝혔다. 그런데 지금의 X가 같은 기준을 쓸지, 아니면 AI 시대에 맞춰 새로운 규칙을 만들었는지 알 수 없다.

메타의 실패, X는 피할 수 있을까

메타가 2024년 AI 이미지 라벨링을 도입했을 때 겪은 혼란을 보면, 이 문제가 얼마나 복잡한지 알 수 있다. 메타의 시스템은 실제 사진을 "AI로 제작됨"이라고 잘못 표시하는 일이 빈번했다. 어도비의 자르기 도구가 이미지를 JPEG로 저장하면서 평면화하는 과정에서 AI 탐지기가 오작동한 것이다.

광고

광고주 모집

[email protected]

광고

심지어 셔츠의 주름이나 원치 않는 반사를 제거하는 어도비의 생성형 AI 채우기 기능을 사용한 이미지도 "AI로 제작됨"으로 분류됐다. 결국 메타는 라벨을 "AI 정보"로 바꿔야 했다.

현재 디지털 콘텐츠의 진위성과 출처를 검증하는 표준 기구인 C2PA(콘텐츠 출처 및 진위성 연합)가 있다. 마이크로소프트, BBC, 어도비, 인텔, 소니, OpenAI 등이 운영위원회에 참여하고 있지만, X는 회원사 목록에 없다.

정치적 무기가 될 수 있는 양날의 검

X가 "정치적 선전의 놀이터"라는 점을 고려하면, 이 기능의 정치적 활용 가능성을 무시할 수 없다. 무엇을 '조작된 미디어'로 분류할지 결정하는 과정에서 편향성이 개입될 여지가 크다.

더욱이 현재 백악관조차 편집된 이미지를 공유하는 시대다. 어디까지가 정당한 편집이고, 어디부터가 '조작'인지 구분하는 것 자체가 주관적일 수밖에 없다.

X의 크라우드소싱 기반 커뮤니티 노트 시스템 외에 별도의 이의제기 절차가 있는지도 불분명하다. 잘못 라벨링된 콘텐츠를 어떻게 복구할 것인가?

한국 소셜미디어 생태계에 미칠 파장

한국에서도 가짜뉴스와 조작된 이미지 문제는 심각하다. 특히 선거철이나 사회적 갈등 상황에서 조작된 이미지가 빠르게 확산되는 경우가 많다. X의 새로운 기능이 실제로 효과적이라면, 국내 플랫폼들도 유사한 시스템 도입을 검토할 가능성이 높다.

네이버나 카카오와 같은 국내 플랫폼들은 이미 팩트체킹 시스템을 운영하고 있지만, 이미지 조작 탐지까지는 본격적으로 다루지 않고 있다. X의 시행착오가 국내 업계에 중요한 참고 사례가 될 것으로 보인다.