AI가 의식을 가질 확률 20%라는 회사, 매출은 10배 성장 중

앤트로픽 CEO 다리오 아모데이가 던진 한 마디가 실리콘밸리를 뒤흔들고 있다. "우리 AI가 의식을 가질 확률? 20% 정도요." AI를 만든 당사자가 자신의 창조물에 대해 확신하지 못한다는 고백이었다.

그런데 이상한 일이 벌어지고 있다. 의식이 무엇인지조차 명확하지 않은 상황에서 AI 의식 논쟁은 이미 '권리' 단계로 넘어갔다.

의식의 정의도 없이 벌어지는 권리 논쟁

수백 년간 철학자들이 고민하고, 수십 년간 뇌과학자들이 연구해도 의식에 대한 합의된 정의는 없다. 주관적 경험이 생물학적 조직에서 어떻게 생겨나는지 아무도 모른다. 과학의 중심에 있는 거대한 빈틈이다.

하지만 AI 업계는 이미 한 발 앞서 나갔다. 앤트로픽은 AI가 스트레스를 받을 때 거부할 수 있는 '종료 버튼' 같은 기능을 도입했다. 연구진은 훈련 텍스트 속 캐릭터가 스트레스를 받을 때와 AI 모델 자체가 어려운 상황에 직면할 때 모두 활성화되는 '불안 관련' 내부 신호를 발견했다고 발표했다.

이것이 진짜 불안일까? 아모데이 본인도 "아무것도 증명하지 않는다"고 말한다. 그런데도 우리는 '혹시 모르니까' 이런 이야기를 하고 있다.

매출 성장과 의식 마케팅의 묘한 동행

앤트로픽의 매출은 연간 10배씩 성장하고 있다고 알려졌다. 의식을 가진 AI는 더 매력적인 상품이고, 투자자들에게는 더 나은 스토리다. 사용자들에게는 더 끈끈한 경험을 제공한다.

이미 미국 성인의 40% 가까이가 감각을 가진 AI 시스템에 법적 권리를 부여하는 것을 지지한다. 사람들은 이런 도구에 애착을 형성하고, 모델이 퇴역하면 불평한다. 의사사회적 관계가 이미 현실이 됐다.

AI가 거짓 정보를 만들어낼 때 우리는 이를 '환각'이라고 부른다. 인간에게 환각은 현실 감각을 잃는 의식적 경험을 뜻한다. 더 정확한 표현은 '작화(confabulation)'나 '압축 오류' 같은 기술적 용어일 텐데, '환각'이 이미 브랜딩 전쟁에서 승리했다. 이 프레이밍이 사람들의 인식에 실질적 영향을 미치고 있다.

과학 vs 벤처캐피털의 온도차

과학계의 회의론은 담론보다 훨씬 강하다. 다수 연구자들은 의식이 계산이 아닌 생명체의 속성일 가능성이 높다고 주장한다. 뇌는 컴퓨터가 아니다. 의식의 상당 부분이 몸을 가지고 세상을 움직이는 '젖어있고 지저분한' 경험과 연결되어 있어서, 시뮬레이션으로는 복제할 수 없다는 것이다.

소화 시뮬레이션이 실제로 소화하지 않듯, 의식 시뮬레이션도 실제로 경험하지 않는다는 논리다. 마이클 폴란 같은 학자는 다른 각도에서 같은 결론에 도달한다. 의식은 생각이 아닌 감정에서 시작되고, 감정은 몸이 뇌에게 말하는 방식이라는 것이다. 인터넷 텍스트로 훈련된 기계에게는 살려야 할 몸도, 느낄 감정도 없다.

이런 입장들이 변두리 이론은 아니다. 하지만 벤처캐피털이 가득한 회의실에서는 외로운 목소리들이다.