AI가 예측하는 미래, 누가 통제하고 있을까

알고리즘이 우리 삶의 모든 결정을 예측하고 통제하는 시대. 세 명의 학자가 제시하는 예측의 정치학과 우리가 놓친 진실.

당신이 이 글을 읽는 지금, 어딘가의 서버에서는 당신의 다음 행동을 예측하고 있다. 클릭할 광고, 구매할 상품, 심지어 범죄를 저지를 확률까지. 10억 개가 넘는 예측이 매초 생성되는 세상에서, 정작 우리는 이 시스템을 제대로 이해하고 있을까?

예측이 지배하는 일상

옥스퍼드대 경제학자 막시밀리안 카시는 신간 《예측의 수단》에서 충격적인 현실을 폭로한다. 현재 우리 삶을 좌우하는 대부분의 예측은 '지도학습'이라는 AI 기법에 기반한다. 과거 데이터의 패턴을 학습한 알고리즘이 미래를 추정하는 방식이다.

문제는 이 예측들이 단순한 '추측'이 아니라는 점이다. 당신이 대출을 받을 수 있는지, 취업에 성공할지, 심지어 가석방을 받을 자격이 있는지까지 결정한다. 삼성전자나 네이버 같은 기업들도 이미 이런 시스템을 광범위하게 도입했다.

"소셜미디어 알고리즘이 분노를 조장해서 광고 수익을 늘린다면, 그건 분노 조장이 수익에 도움이 되기 때문"이라고 카시는 지적한다. 시스템의 '부작용'이 아니라 의도된 결과라는 뜻이다.

UC버클리의 벤저민 레흐트 교수는 《비합리적 결정》에서 더 근본적인 문제를 제기한다. 현재의 AI 시스템이 2차 대전 이후 형성된 '수학적 합리성' 사고에 뿌리를 두고 있다는 것이다.

이 사고방식은 모든 결정을 카지노 게임처럼 취급한다. 비용과 편익을 계산하고, 위험을 수치화하며, 최적해를 찾는 것이 곧 합리적 판단이라고 본다. 네이트 실버나 스티븐 핑커 같은 인물들이 대표적이다.

하지만 레흐트는 반박한다. "1850년대 40세였던 평균 수명이 1950년 70세가 된 건 알고리즘 덕분이 아니었다." 깨끗한 물, 항생제, 공중보건 같은 혁신은 모두 인간의 직관과 판단력으로 이뤄낸 성과다.

옥스퍼드대 철학자 카리사 벨리스는 《예언》에서 가장 날카로운 통찰을 제시한다. "예측은 현실을 자신 쪽으로 끌어당기는 자석"이라는 것이다.

고든 무어의 '무어의 법칙'을 생각해보자. 1965년 그가 "반도체 집적도가 2년마다 2배씩 증가할 것"이라고 예측했을 때, 이는 단순한 추정이 아니었다. 전체 산업이 이 예측을 현실로 만들기 위해 수십조원을 투자했다.

한국에서도 비슷한 일이 벌어지고 있다. "2030년 AI 강국"이라는 정부 목표나 "메타버스 시대"라는 기업들의 선언은 모두 자기실현적 예언이다. 예측이 현실을 만들어가는 과정에서, 정작 현재의 문제들은 뒤로 밀린다.

세 학자가 공통으로 지적하는 건 권력의 문제다. 예측을 만드는 자가 미래를 통제한다. 빅테크 기업들이 "AI가 인류 최후의 문제를 해결할 것"이라고 약속하는 동안, 현재 AI가 야기하는 일자리 위기, 프라이버시 침해, 편향성 문제는 뒷전으로 밀린다.

카시는 해법으로 '데이터 신탁'과 같은 민주적 통제 장치를 제안한다. 시민들이 집단으로 데이터 사용 방식을 결정하는 시스템이다. 하지만 그 자신도 인정한다. "쉽지 않을 것이고, 시간도 오래 걸릴 것"이라고.

문제는 시간이다. 알고리즘의 예측이 우리 뇌를 "죽"으로 만들어가는 속도와 민주적 대안을 구축하는 속도 중 어느 쪽이 더 빠를까?