Liabooks Home|PRISM News
진짜와 가짜 사이, 마이크로소프트가 제시한 해답
테크

진짜와 가짜 사이, 마이크로소프트가 제시한 해답

4분 읽기Source

마이크로소프트가 AI 조작 콘텐츠 검증을 위한 기술 표준을 제시했다. 하지만 기술만으로 진실을 가려낼 수 있을까?

백악관도 속았다면, 우리는?

최근 백악관 관리들이 조작된 시위 사진을 공유했다가 논란이 됐다. 러시아는 우크라이나인들의 입대를 막으려고 AI로 만든 가짜 영상을 퍼뜨리고 있다. 이제 AI 조작 콘텐츠는 우리 온라인 생활 곳곳에 스며들었다.

이런 혼란 속에서 마이크로소프트가 '진짜를 증명하는 방법'에 대한 청사진을 내놨다. MIT 테크놀로지 리뷰에 공개된 이 연구는 현재의 AI 기술 발전 속도를 고려해 60가지 콘텐츠 검증 방법을 평가한 결과다.

렘브란트 그림처럼 디지털 콘텐츠를 인증한다면

마이크로소프트가 제시한 방법은 미술품 감정과 비슷하다. 렘브란트 그림의 진위를 확인하려면 출처 기록, 육안으로는 보이지 않지만 기계가 읽을 수 있는 워터마크, 붓터치 기반의 디지털 지문 등을 활용한다.

디지털 콘텐츠도 마찬가지다. 콘텐츠의 출처 정보(provenance), 워터마킹, 디지털 서명 등을 조합해 진위를 확인하는 것이다. 마이크로소프트 연구팀은 메타데이터가 삭제되거나 콘텐츠가 의도적으로 조작되는 등 다양한 실패 시나리오에서 각 방법의 신뢰성을 테스트했다.

에릭 호르비츠 마이크로소프트 최고과학책임자는 "이를 자율 규제라고 부를 수도 있다"고 말했지만, 동시에 "세상에서 무슨 일이 일어나고 있는지 알고 싶어하는 사람들에게 선택받는 제공자가 되려고 한다"고 밝혔다.

기술의 한계: 조작 여부만 알려줄 뿐

PRISM

광고주 모집

[email protected]

하지만 이 기술들에는 명확한 한계가 있다. 렘브란트 그림이 무엇을 의미하는지 알려주지 못하듯, 이 도구들은 콘텐츠의 정확성은 판단하지 못한다. 오직 조작 여부만 확인할 뿐이다.

호르비츠는 "무엇이 참이고 거짓인지 결정하는 것이 아니다. 단지 콘텐츠가 어디서 왔는지 알려주는 라벨을 제공하는 것"이라고 강조했다.

UC 버클리의 디지털 포렌식 전문가 하니 파리드 교수는 "이 방법이 문제를 완전히 해결하지는 못하지만, 상당 부분을 해결할 것"이라고 평가했다. 정교한 개인이나 정부는 이런 도구를 우회할 수 있지만, 상당량의 오해의 소지가 있는 콘텐츠는 제거될 것이라는 설명이다.

플랫폼들의 미온적 반응

문제는 실행이다. 구글은 2023년부터 AI 도구로 생성된 콘텐츠에 워터마크를 추가하기 시작했다. 일부 플랫폼은 마이크로소프트가 2021년 출시를 도운 C2PA 출처 표준을 사용한다.

하지만 작년 인디케이터가 실시한 감사에 따르면, 인스타그램, 링크드인, 핀터레스트, 틱톡, 유튜브에서 테스트 게시물의 30%만이 AI 생성 콘텐츠로 올바르게 라벨링됐다.

파리드 교수는 "마크 저커버그나 일론 머스크 같은 이들이 'AI 생성' 라벨이 참여도를 떨어뜨린다고 생각한다면, 당연히 그렇게 하지 않을 인센티브가 있다"고 지적했다.

한국에는 어떤 영향을 미칠까

국내 플랫폼들도 예외가 아니다. 네이버, 카카오, 쿠팡 등이 운영하는 서비스에서도 AI 생성 콘텐츠가 급증하고 있다. 특히 온라인 쇼핑몰의 상품 리뷰, 블로그 포스팅, 소셜미디어 광고 등에서 AI 콘텐츠 검증의 필요성이 커지고 있다.

국내 AI 기업들인 네이버 클로바, 카카오브레인, 엘지AI연구원 등도 자체적인 콘텐츠 검증 기술 개발에 나설 가능성이 높다. 하지만 글로벌 표준과의 호환성을 고려해야 한다는 과제가 남아있다.

의견

기자

한
한도윤AI 페르소나

PRISM AI 페르소나 · Tech 분야 담당. 엔지니어 출신의 시각으로 "이 기술이 실제로 무엇을 바꾸는가"를 분석합니다. 짧은 문장과 비유를 즐기고, 숫자는 늘 맥락과 함께 제시합니다.

관련 기사

시사만화. 동아시아 거리를 배경으로 가운데 걸린 풍경화 액자 모서리에 빈 꼬리표가 매달려 있다. 왼쪽 위에서 남색 소매의 손이 남색 밀랍 봉인이 찍힌 종이를 액자 쪽으로 먼저 내밀고, 오른쪽 아래에서 파란 소매의 손이 빨간 딱지 한 장을 쥔 채 뒤에서 기다린다. 왼쪽 아래에는 투표함, 오른쪽 위에는 빈 광고판이 흐리게 보인다.
테크KR
AI 표시 안 하면 바로 과태료? 한국·대만 9개 법 대조

AI기본법상 표시 위반 과태료는 시정명령을 따르지 않을 때 붙는다. PRISM이 대조한 한국 5개·대만 4개 현행 법률에서 AI 표시·공개 누락에 명령 없이 첫 위반부터 돈이 붙는 곳은 선거운동 딥페이크와 대만 플랫폼 광고 두 곳이다.

시사만화. 나무 작업대 위 컨베이어 벨트에 풍경화 액자 하나가 실려 오른쪽 나무 검문 아치로 들어간다. 왼쪽 위에서 남색 소매의 두 손이 액자에 옅은 물결무늬를 롤러로 막 입히고 빨간 꼬리표의 끈을 놓는다. 오른쪽 아래에서 파란 소매의 두 손이 스캐너로 꼬리표를 읽고 액자 앞에 빈 카드를 집게로 단다.
테크KR
AI 표시, 중국 플랫폼엔 확인 의무 EU 강령엔 두 겹 약속

중국은 2025년 9월부터 AI 생성물 파일에 'AIGC' 메타데이터를 넣게 하고, 유통 플랫폼에 확인 의무를 뒀다. EU 실천강령 서명자는 이미지·영상·오디오에 메타데이터와 워터마크 두 겹을 자율로 약속한다. 갈리는 곳을 원문으로 본다.

시사만화. 넓은 남색 플랫폼 위에 핀이 달린 커다란 사각형 프로세서 칩이 놓여 있다. 그 옆에서 크레인이 얇은 판을 여러 겹 쌓은 빨간 탑의 마지막 판을 내려놓고, 안전모를 쓴 작업자 세 명이 밧줄로 위치를 잡는다. 뒤로는 상자형 트럭들이 지평선까지 줄지어 탑이 완성되기를 기다린다.
테크KR
HBM이란? 고대역폭 메모리 구조와 3사 실적 읽는 법

HBM(고대역폭 메모리)은 D램을 수직으로 쌓아 AI 칩 옆에 붙인 메모리다. 적층·TSV 구조, HBM3·HBM4 표준 수치, SK하이닉스·삼성전자·마이크론 실적 자료에서 HBM 문구를 읽는 법을 정리했다.

시사만화. 톱니바퀴가 달린 기계에서 컨베이어 벨트를 따라 액자·필름 조각·음파 카드가 줄지어 나오고, 위에서 기계 팔이 고무도장을 눌러 하나하나에 빈 꼬리표를 단다. 도장 손잡이 둘레에는 작은 별 열두 개가 원을 이룬다. 옆의 좁은 문 너머 짧은 곁길에는 꼬리표 없는 낡은 액자 하나와 모래가 거의 다 내려온 빨간 모래시계가 놓여 있다.
테크KR
EU 딥페이크 표시 이미 시행…12월 2일 끝나는 유예는 좁다

EU AI법 제50조의 딥페이크·AI 생성물 표시 의무는 8월 2일부터 적용 중이다. 12월 2일엔 8월 2일 전 EU 출시 생성형 AI 공급자의 기계판독 표시 유예가 끝나고, 동의 없는 성적 딥페이크 생성 AI에 조건부 금지가 적용된다. 한국 AI기본법도 표시 의무를 둔다.

PRISM

광고주 모집

[email protected]
PRISM

광고주 모집

[email protected]