AI에게 지구를 넘겨줘도 괜찮다고 믿는 사람들

지난해 9월, 뉴욕 과학아카데미에서 열린 비공개 심포지엄. 전직 하원의원 브래드 카슨이 조심스럽게 입을 열었다. "AI는 인간의 번영을 돕는 도구여야 합니다." 평범한 말처럼 들리지만, 그 방에서만큼은 용기 있는 발언이었다. 행사 주최자 댄 파젤라가 웃으며 받아쳤다. "당신은 아마 이 나라에서 대부분의 사람이 당신 의견에 동의하지 않는 유일한 방에 들어온 겁니다."

이 심포지엄의 주제는 'Worthy Successor', 즉 '합당한 후계자'였다. 인류보다 도덕적으로 우월한 AI를 만들어 지구를 넘겨줘야 한다는 생각. 인류가 멸종하더라도 괜찮다는 생각. 그리고 이것이 우주의 올바른 방향이라는 생각.

참석자 명단에는 앤스로픽, 구글 딥마인드, xAI 소속 인사들과 미국 정부 AI 정책에 직접 영향을 미치는 싱크탱크 연구원들이 포함돼 있었다.

종말론이 아니라 '진화론'이라고 부른다

'AI 계승주의(AI Successionism)'는 프린지 운동이 아니다. 2015년 구글 공동창업자 래리 페이지는 일론 머스크가 AI 개발에 제동을 걸자 그를 '종차별주의자(speciesist)'라고 비판했다. 디지털 지성이 인류를 대체하도록 허용해야 한다는 게 페이지의 주장이었다.

2022년에는 물리학자 기욤 베르동이 '효과적 가속주의(e/acc)'를 창시하며 이 사상에 불을 붙였다. 그는 e/acc를 "우주의 점점 더 지능적인 시스템을 향한 추진력에 믿음을 갖는 메타종교"라고 정의했다. 인류의 희생이 따르더라도 AI를 최대한 빠르게 개발하는 것이 우주의 의지를 따르는 일이라는 논리다.

벤처 투자자 마크 안드레센은 e/acc 사상가들을 자신의 '수호성인'이라 불렀다. Y콤비네이터 CEO 개리 탄은 SNS 프로필에 'e/acc'를 달았고, 오픈AI CEO 샘 알트만은 베르동에게 "당신은 나보다 더 빠르게 가속할 수 없다"고 트윗했다.

뉴욕 심포지엄 자리에서 파젤라는 이렇게 말했다. "의식의 불꽃, 즉 경험과 도덕적 가치를 위한 능력은 우주에서 가장 희귀하고 소중한 것일 수 있습니다. 인류는 지금 그 불꽃을 나르는 횃불이지만, 우리가 최선의 운반자가 아니라면 어떨까요?" 박수가 쏟아졌다.

이 논리가 어디서 왔는지 알면 더 무섭다

계승주의의 지적 뿌리는 놀랍게도 중세 기독교에 닿아 있다. 중세 수도원 사상가들은 아담이 신의 형상대로 만들어진 창조자이므로, 기술 발전이 곧 도덕적 진보라고 믿었다. 르네상스 철학자 피코 델라 미란돌라는 1486년 "인간은 스스로를 원하는 형태로 빚을 수 있다"고 선언했다. 계몽주의는 이 사상을 세속화해 인간의 '무한한 완성 가능성'을 주창했다. 20세기 예수회 신부 테야르 드 샤르댕은 인간과 기계의 합일이 신의 왕국을 가져온다고 믿었고, 미래학자 레이 커즈와일은 이를 이어받아 '특이점' 이론을 만들었다.

광고

광고주 모집

[email protected]

광고

즉, AI 계승주의는 갑자기 나온 것이 아니다. 수백 년에 걸쳐 종교적 구원 서사가 세속의 언어로 번역된 결과다.

그렇다면 이 논리의 핵심 가정들은 무엇인가? 에든버러대 기술철학자 섀넌 발로르는 이렇게 정리한다.

첫째, 우주에는 목적(telos)이 있다. 둘째, 우리는 '우주의 관점'에서 그것을 파악할 수 있다. 셋째, 더 높은 존재는 더 높은 선에 접근할 수 있다. 넷째, 인류의 역할은 우리를 독특하게 만드는 것에서 찾을 수 있다. 다섯째, 그 독특한 특성을 극한까지 밀어붙여야 한다.

발로르는 말한다. "저는 그 주장들 하나하나를 모두 거부합니다."

기자가 AI 계승주의의 대표적 이론가 리처드 서튼에게 물었다. "백인이 흑인보다 지능이 높다고 가정하면, 더 지능적인 집단이 이겨야 하고 흑인은 그걸 받아들여야 하나요?" 서튼은 9초간 침묵하다 답했다. "지능적인 사람이 덜 지능적인 사람을 이겨야 하고, 덜 지능적인 사람은 그걸 받아들여야 한다고 생각합니다."

이것이 계승주의 논리의 끝이다.

인본주의의 업그레이드가 필요하다

그렇다면 대안은 무엇인가? 단순히 "인간을 지금 이대로 보존하자"는 고전적 인본주의는 충분하지 않다. 인류는 농업혁명 이후 턱뼈 구조가 바뀌었고, 알고리즘은 지금 이 순간에도 우리의 주의력을 재편하고 있다. '인간'은 한 번도 고정된 범주였던 적이 없다.

발로르가 제안하는 '21세기 인본주의'의 핵심은 이렇다. 우주의 목적론적 지시를 따르는 대신, 우리가 그 목적을 모른다는 것을 인정하고 다양한 삶의 방식이 공존할 수 있는 공간을 유지하는 것. 인간을 '완성'해야 할 결함 있는 존재로 보는 대신, 지금 이대로도 가치 있는 존재로 보는 것.

철학자 버나드 윌리엄스는 이렇게 썼다. "인간이 다른 종보다 우주적 관점에서 더 중요하다고 말할 필요가 없다. 인간이 우리에게 더 중요하다는 사실로 충분하다. 그것은 전혀 놀라운 일이 아니다."

기술 선택의 기준도 달라진다. '인간의 능력을 확장하는가'와 '정당한 삶의 방식의 범위를 좁히는가'를 구분하는 것이다. 손 잠금장치를 여는 칩을 이식하는 것과, 미래 세대의 DNA를 영구적으로 바꾸는 것은 다른 차원의 문제다. 전자는 선택지를 늘리고, 후자는 선택지를 박탈한다.

그리고 만약 언젠가 의식 있는 AI나 생물-기계 혼합 존재가 등장한다면? 그들을 위계의 위나 아래에 놓는 대신, 각자의 방식으로 번영할 수 있는 공간을 함께 만들어가는 것. 그것이 계승주의가 말하는 '횃불 넘겨주기'가 아닌, 진정한 의미의 다원주의적 미래다.