종말시계 vs AI 거물의 경고, 누구 말을 들어야 할까

85초. 인류가 종말까지 남은 시간이다. 원자과학자회보가 발표한 2026년 종말시계는 역대 가장 자정에 가까운 시간을 가리키고 있다. 핵 위협부터 기후변화, 독재 확산까지 복합적 위기가 몰려온다는 경고다.

하루 전, 앤트로픽 CEO 다리오 아모데이는 1만9천 단어 분량의 장문 에세이를 공개했다. 제목은 '기술의 사춘기'. 그의 결론은 명확했다. "인류는 상상할 수 없는 힘을 곧 손에 쥐게 될 것이다. 하지만 우리의 사회적, 정치적, 기술적 시스템이 그 힘을 다룰 만큼 성숙한지는 매우 불분명하다."

밖에서 외치는 예언자들

종말시계는 1947년 탄생했다. 히로시마 원폭 투하 2년 후였다. 만든 이들은 로버트 오펜하이머 같은 핵무기 개발 당사자들이었다. 자신들이 만든 괴물의 위험성을 누구보다 잘 아는 사람들이 절박하게 경고를 보낸 것이다.

당시엔 설득력이 있었다. 히로시마와 나가사키의 참상을 본 세계는 핵무기의 파괴력을 의심하지 않았다. 1950년대 후반엔 매년 수십 차례 핵실험이 전 세계에서 벌어졌다. 핵무기가 인류 존재를 위협한다는 사실은 누구도 부정할 수 없었다.

하지만 정부를 떠난 과학자들은 도덕적 권위는 얻었지만, 정작 위험을 막을 권력은 잃었다. 종말시계는 강력한 상징이지만 결국 소통 도구일 뿐이다. 예언자의 말이지 집행자의 명령이 아니다.

냉전 종료 후 상황은 더 복잡해졌다. 종말시계는 이제 기후변화, 생명공학 위험, AI, 민주주의 후퇴까지 모든 걸 다룬다. 모두 실재하는 위험이지만, 섞이면서 시계의 정밀함은 흐려졌다. 시계가 아니라 추측에 가까워진 것이다.

성전 안의 대제사장

아모데이는 종종 오펜하이머와 비교된다. 둘 다 물리학자 출신이고, 각각 AI와 핵무기의 핵심 기술 개발에 기여했다. 오펜하이머가 맨해튼 프로젝트를 이끌 조직력을 보였듯, 아모데이도 뛰어난 기업 경영자로 입증됐다.

결정적 차이는 *통제권*이다. 오펜하이머는 핵무기 완성과 동시에 통제권을 정부와 군부에 넘겨야 했다. 1954년엔 보안 허가까지 박탈당해 완전한 외부인이 됐다.

반면 아모데이는 여전히 앤트로픽의 CEO다. AI를 극한까지 밀어붙이는 기업을 이끌면서 동시에 AI의 위험을 경고한다. "데이터센터 안의 천재 국가" 같은 장밋빛 전망과 AI 생화학무기나 기술적 대량실업 같은 재앙 시나리오를 동시에 제시한다.

마치 핵전쟁 계획을 세우는 전략가가 종말시계 바늘도 조정하는 격이다. (물론 핵무기는 파괴만 약속했지만 AI는 혜택과 위험을 동시에 가져온다는 차이가 있다. 그래서 1만9천 단어가 필요한 것일지도.)

신뢰의 딜레마

아모데이의 모든 경고엔 "하지만 개발은 계속해야 한다"는 단서가 붙는다. 그의 에세이는 AI 개발 중단이나 대폭 지연은 "근본적으로 지속 불가능하다"고 명시한다. 앤트로픽이 안 만들면 더 나쁜 누군가가 만들 거라는 논리다.

사실일 수도 있다. 안전을 중시하는 기업이 경쟁에서 뒤처지지 말아야 한다는 최선의 논리일 수도 있다. 하지만 편리하게도 자신이 하던 일을 계속할 수 있게 해주는 논리이기도 하다.

아모데이 스스로 인정한다. "AI로 벌어들일 돈이 너무 많다. 말 그대로 연간 수조 달러다. 가장 단순한 조치조차 AI에 내재된 정치경제학을 극복하기 어려워한다."

종말시계는 실존적 위협을 만든 기관 밖에서 독립적으로 경고할 수 있는 세상을 위해 설계됐다. 우리가 더 이상 그런 세상에 살지 않는다면, 무엇을 대신 만들어야 할까?