AI의 함정에 갇힌 억만장자 CEO의 경고

"우리는 종으로서 누구인지 시험받는 격동의 통과의례에 들어서고 있다." Anthropic의 CEO 다리오 아모데이가 월요일 발표한 38페이지 에세이의 한 구절이다. 하지만 이 경고가 나온 바로 그날, 그의 회사는 Claude 챗봇의 새로운 업데이트를 발표했다.

이것이 바로 현재 AI 업계가 직면한 근본적 모순이다. 위험을 가장 잘 아는 사람들이 동시에 그 위험을 만들어내고 있다는 것.

데이터센터 속 천재들의 나라

아모데이는 "데이터센터 속 천재들의 나라"라는 표현을 에세이에서 12번이나 반복한다. 노벨상 수상자보다 똑똑한 수백만 개의 AI 시스템이 기계의 속도로 작동하며 완벽하게 협력하는 세상을 그려낸다.

그가 제시하는 위험은 다섯 가지다. 첫째, AI의 자율성. 둘째, 개인의 악용, 특히 생물학 분야에서. 셋째, 권위주의 국가의 악용. 넷째, 경제적 혼란. 다섯째, 문화적·심리적·사회적 변화가 규범 형성보다 빠르게 일어나는 간접 효과.

특히 주목할 점은 그가 강력한 AI가 "1-2년 내에 등장할 수 있다"고 경고하며, 이를 "한 세기, 어쩌면 역사상 가장 심각한 국가안보 위협"이라고 표현했다는 것이다.

한국에서는 어떻게 될까

아모데이의 경고는 한국 상황에도 직접적으로 연결된다. 삼성전자와 SK하이닉스가 AI 칩 생산의 핵심 플레이어인 상황에서, 그가 제안하는 "중국 공산당에 칩을 절대 판매해서는 안 된다"는 주장은 한국 기업들에게 복잡한 딜레마를 안겨준다.

네이버와 카카오 같은 국내 기술 기업들도 AI 경쟁에서 뒤처지지 않으려 노력하고 있다. 하지만 아모데이의 논리대로라면, 이들 역시 "함정" 안에 갇혀 있는 셈이다. 위험을 알면서도 경쟁에서 살아남기 위해 계속 달려야 하는 상황.

규제의 역설

아모데이가 제안하는 해결책들은 의외로 평범하다. 투명성 법안, 칩 수출 통제, 모델 행동에 대한 의무 공개, 진전을 멈추기보다는 시간을 벌기 위한 점진적 규제. 그는 캘리포니아의 SB 53과 뉴욕의 RAISE Act를 초기 템플릿으로 언급한다.

하지만 여기서 핵심적인 질문이 생긴다. 규제를 제안하는 사람이 동시에 그 기술을 판매하는 사람이라면, 그 제안을 얼마나 신뢰할 수 있을까?

아모데이 자신도 이를 "함정"이라고 부른다. AI 기업들은 상업적 경쟁에 갇혀 있고, 정부들은 성장이나 군사적 우위, 또는 둘 다에 유혹받는다. 그리고 일반적인 안전장치들 - 자발적 기준, 기업 윤리, 민관 신뢰 - 은 이런 부담을 감당하기에는 너무 약하다.