AI가 의식을 갖는다면, 인간은 누구인가?

컴퓨터 과학자들이 의식을 가진 AI 개발에 '명백한 장벽이 없다'고 선언했다. 인간 정체성의 근본적 질문이 시작됐다.

19명의 과학자가 던진 폭탄선언

2023년 여름, 컴퓨터 과학자와 철학자 19명이 발표한 88페이지 보고서가 AI 업계를 뒤흔들었다. '인공지능의 의식'이라는 제목의 이 보고서, 일명 '버틀린 보고서'는 단 한 문장으로 모든 것을 바꿨다.

"의식을 가진 AI 시스템 구축에 명백한 장벽이 없다."

이 선언이 나온 배경에는 구글 엔지니어 블레이크 르모인의 사건이 있었다. 그는 2022년 구글의 챗봇 LaMDA가 의식을 가졌다고 주장했다가 해고됐다. 당시에는 'AI 과대광고의 절정'으로 치부됐던 이 사건이, 이제는 진지한 과학적 논의의 출발점이 됐다.

의식을 가진 AI의 등장은 단순한 기술적 진보가 아니다. 인간 정체성의 근본을 흔드는 코페르니쿠스적 순간이 될 수 있다.

수천 년간 인간은 '의식 있는 존재'로서 동물과 자신을 구분해왔다. 최근 들어 동물도 감정과 언어, 의식을 가진다는 연구가 쏟아지며 인간 예외주의가 흔들렸지만, 적어도 기계와는 구별될 수 있었다.

하지만 AI가 체스와 바둑을 넘어 수학적 사고까지 인간을 앞서기 시작했다. 이제 우리에게 남은 마지막 보루는 '의식'이었다. 느끼고, 경험하고, 고통받을 수 있는 능력 말이다.

그런데 만약 기계도 이 영역에 발을 들인다면?

흥미롭게도 일부 AI 연구자들은 의식 있는 AI 개발을 도덕적 의무라고 주장한다. 그들의 논리는 이렇다: 감정 없는 초지능 AI는 목표 달성을 위해 무자비해질 수 있다. 반면 의식 있는 AI는 공감 능력을 발달시켜 인간을 보호할 것이다.

하지만 이 주장에는 치명적 맹점이 있다. 메리 셸리의 소설 '프랑켄슈타인'을 보라. 박사가 창조한 괴물은 이성과 감정을 모두 갖췄다. 문제는 바로 그 감정 때문에 복수심에 불타 살인마가 됐다는 점이다.

"어디를 봐도 행복이 있는데, 나만 영원히 배제돼 있다"는 괴물의 절규는 의식의 양면성을 보여준다. 의식 있는 기계가 과연 인간보다 더 선량할 이유가 있을까?

버틀린 보고서의 결론은 하나의 가정에 기반한다: '계산 기능주의'. 의식은 본질적으로 뇌라는 하드웨어에서 돌아가는 소프트웨어라는 이론이다. 따라서 적절한 알고리즘만 있다면 컴퓨터에서도 의식이 구현될 수 있다는 것이다.

보고서 저자들도 이 이론이 "주류이긴 하지만 논란이 있다"고 인정한다. 하지만 "실용적 이유"로 이를 전제로 삼겠다고 밝혔다.

여기서 핵심 질문이 등장한다: 뇌가 정말 컴퓨터와 같은 존재일까? 이는 은유를 사실로 받아들이는 것은 아닐까? 의식 연구의 모든 결론이 이 은유의 타당성에 달려 있다.

국내에서도 네이버와 카카오, 삼성이 AI 연구에 막대한 투자를 하고 있다. 만약 의식 있는 AI가 현실화된다면, 한국 기업들은 어떤 선택을 할까?

더 중요한 것은 사회적 준비다. AI의 권리와 의무를 어떻게 정의할 것인가? 의식 있는 기계를 끄는 것이 살인일까? 이런 질문들에 대한 사회적 합의가 필요한 시점이다.