AI가 당신의 생각을 조종한다면? 쿠폰 마케팅에서 전쟁 선전까지

매장 근처를 지날 때 갑자기 쿠폰이 뜨면 편리하다고 느낄 것이다. 하지만 당신이 어디에 있는지 알고 구매를 유도하는 그 AI 시스템이 당신의 두려움, 신뢰, 그리고 어떤 이야기를 믿을지까지 추론할 수 있다면?

보안 연구자인 저스틴 펠레티어는 최근 연구에서 충격적인 가능성을 제기했다. AI 기반 마케팅 알고리즘이 개인의 구매 행동을 넘어 국가 차원의 여론 조작, 심지어 전쟁에 대한 국민 인식까지 좌우할 수 있다는 것이다.

쿠폰에서 시작된 조작의 기술

현재 AI 마케팅의 핵심은 위치 기반 서비스와 개인화의 결합이다. 기업들은 실내 센서, 기지국, 위성 데이터로 당신의 위치를 파악하고, 모바일 앱을 통해 수집한 방대한 개인 데이터와 결합한다.

이 과정에서 AI는 사용자를 취향과 행동 패턴별로 세분화한다. 당신이 좋아하는 것, 하는 일, 말하는 내용을 바탕으로 그룹을 나누고, 각 그룹과 개인에게 맞춤형 쿠폰과 광고를 실시간으로 설계한다.

문제는 이 기술이 단순한 상품 판매를 넘어서고 있다는 점이다. 같은 시스템이 정치적 신념, 사회적 가치관, 심지어 전쟁에 대한 태도까지 형성할 수 있게 된 것이다.

손자병법에서 AI 선전까지

“싸우지 않고 적군을 굴복시키는 것이 최고의 전략이다.” 기원전 496년 중국의 군사전략가 손자가 남긴 말이다. 심리전을 통해 실제 전투의 위험을 줄이려는 시도는 인류 역사만큼 오래되었다.

하지만 오늘날의 전략가들이 사용하는 도구는 차원이 다르다. 유료 소셜미디어 광고, 인플루언서, AI 생성 콘텐츠, 가짜 계정을 통해 대중 여론을 실시간으로 조작한다. 이 힘은 최근 각국 선거, 국내 갈등, 우크라이나 분쟁 협상에서도 논란이 되었다.

냉전 시대 소련과 미국의 일방향 선전과 달리, 현대의 영향력 공작은 수천 개의 서사를 동시에 테스트한다. 각기 다른 집단의 반응을 모니터링하고 거의 실시간으로 접근법을 정교화한다. 모든 사람을 설득할 필요도 없다. 적절한 순간에 충분한 사람들만 움직이면 선거 결과를 바꾸고, 국내 정책에 압력을 가하고, 심지어 종족 갈등을 촉발시킬 수 있다.

한국 사회는 안전한가?

국내에서도 이미 조짐이 나타나고 있다. 미국 연구에 따르면 사람들이 전국 매체보다 지역 언론을 더 신뢰하지만, 전반적인 언론 신뢰도는 모든 연령층에서 하락하고 있다. 이 신뢰 공백을 악용한 ‘핑크 슬라임 뉴스’가 등장했다. AI가 생성한 가짜 지역 뉴스로, 기술적으로는 정확하지만 정치적 편향을 은밀하게 담고 있다.

네이버와 카카오가 뉴스 유통을 주도하는 한국에서, 이런 AI 기반 여론 조작은 더욱 집중적이고 효과적일 수 있다. 특히 빠른 정보 소비를 선호하는 한국 네티즌들의 특성상, 정교하게 설계된 맞춤형 정보에 더 취약할 가능성이 높다.

민주주의의 새로운 딜레마

온라인 영향력 공작이 자동화되고 개인화될수록, 설득과 강요의 경계는 모호해진다. 국민이 노골적인 힘의 사용 없이도 특정 신념이나 행동으로 유도될 수 있다면, 민주주의 사회는 새로운 문제에 직면한다.

정당한 전쟁 이론은 시민들이 합리적으로 전쟁에 동의할 수 있다고 가정한다. 합법적인 정치적 권위는 폭력이 필요하고 비례적이라고 판단할 수 있는 정보에 입각한 대중을 요구한다. 하지만 영향력 공작이 사람들의 인식을 무의식적으로 좌우한다면, 전쟁을 정당화하는 도덕적 전제 조건 자체가 위협받는다.