진짜와 가짜를 구분하는 새로운 전쟁이 시작됐다
마이크로소프트가 AI 조작 콘텐츠를 식별하는 기술 표준을 제안했다. 딥페이크가 일상화된 시대, 진실을 증명하는 방법은 무엇일까?
962건의 홍역 확산, 34건의 런던 발병, 그리고 당신이 본 마지막 '진짜' 영상
지난 몇 달간 소셜미디어를 휩쓴 영상들을 떠올려보자. 유명인의 충격 발언, 정치인의 실언, 재난 현장의 생생한 모습들. 이 중 얼마나 많은 것이 진짜였을까?
마이크로소프트가 MIT 테크놀로지 리뷰와 공유한 새로운 청사진은 이런 질문에서 출발한다. AI가 만든 가짜 콘텐츠가 우리 일상에 스며들면서, '진짜임을 증명하는' 기술이 절실해졌다는 것이다.
딥페이크의 진화: 이제는 실시간 대화까지
마이크로소프트 AI 안전 연구팀이 분석한 현재 상황은 심각하다. 과거의 딥페이크가 단순히 얼굴을 바꾸는 수준이었다면, 이제는 실시간으로 상대방과 대화하는 인터랙티브 딥페이크가 등장했다. 누구나 접근할 수 있는 초현실적 AI 모델들이 범람하고 있다.
문제는 기존의 디지털 조작 탐지 방법들이 이런 발전 속도를 따라가지 못한다는 점이다. 연구팀은 "현재의 검증 시스템으로는 최신 AI 기술을 막을 수 없다"며 새로운 기술 표준이 필요하다고 결론지었다.
마이크로소프트의 해법: 표준화된 '진실 증명서'
마이크로소프트가 제안한 해결책은 크게 세 가지다:
콘텐츠 출처 추적: 모든 디지털 콘텐츠에 '디지털 지문'을 남겨 원본부터 최종 배포까지의 경로를 추적한다.
AI 기업 의무화: AI 모델 개발사들이 자신의 기술로 만든 콘텐츠를 식별할 수 있는 '워터마크' 기능을 의무적으로 탑재하도록 한다.
플랫폼 검증 시스템: 소셜미디어 플랫폼들이 공통으로 사용할 수 있는 표준화된 검증 시스템을 구축한다.
한국에서는 어떻게 적용될까?
이 기술이 한국에 도입되면 어떤 변화가 있을까? 가장 직접적인 영향을 받을 곳은 네이버와 카카오 같은 플랫폼 기업들이다. 이들은 새로운 검증 시스템을 도입해야 하고, 이는 상당한 기술 투자를 의미한다.
교육 분야에서도 변화가 예상된다. 온라인 수업이 일상화된 상황에서, 학생들이 제출하는 과제나 프레젠테이션이 AI로 조작되지 않았음을 증명하는 시스템이 필요해질 것이다.
한국의 높은 스마트폰 보급률과 소셜미디어 이용률을 고려하면, 가짜 정보의 확산 속도도 빠르지만 검증 기술의 도입도 상대적으로 수월할 수 있다.
기술적 해법만으로는 부족하다
하지만 전문가들은 기술적 해법만으로는 한계가 있다고 지적한다. 사용자들의 미디어 리터러시 교육, 법적 규제 체계 정비, 그리고 무엇보다 플랫폼 기업들의 적극적인 협조가 필요하다.
특히 한국처럼 빠른 정보 전파 문화를 가진 사회에서는 '일단 공유하고 나중에 확인하기' 패턴을 바꾸는 것이 기술 도입만큼 중요하다.
기자
관련 기사
AI기본법상 표시 위반 과태료는 시정명령을 따르지 않을 때 붙는다. PRISM이 대조한 한국 5개·대만 4개 현행 법률에서 AI 표시·공개 누락에 명령 없이 첫 위반부터 돈이 붙는 곳은 선거운동 딥페이크와 대만 플랫폼 광고 두 곳이다.
중국은 2025년 9월부터 AI 생성물 파일에 'AIGC' 메타데이터를 넣게 하고, 유통 플랫폼에 확인 의무를 뒀다. EU 실천강령 서명자는 이미지·영상·오디오에 메타데이터와 워터마크 두 겹을 자율로 약속한다. 갈리는 곳을 원문으로 본다.
HBM(고대역폭 메모리)은 D램을 수직으로 쌓아 AI 칩 옆에 붙인 메모리다. 적층·TSV 구조, HBM3·HBM4 표준 수치, SK하이닉스·삼성전자·마이크론 실적 자료에서 HBM 문구를 읽는 법을 정리했다.
EU AI법 제50조의 딥페이크·AI 생성물 표시 의무는 8월 2일부터 적용 중이다. 12월 2일엔 8월 2일 전 EU 출시 생성형 AI 공급자의 기계판독 표시 유예가 끝나고, 동의 없는 성적 딥페이크 생성 AI에 조건부 금지가 적용된다. 한국 AI기본법도 표시 의무를 둔다.
의견
이 기사에 대한 생각을 나눠주세요
로그인하고 의견을 남겨보세요