AI 규제의 삼중 딜레마, 왜 모든 것을 다 가질 수는 없을까

2022년 말 ChatGPT가 등장했을 때, 전 세계 정부들은 AI 규제에 나섰다. 미국은 AI 안전 연구소를 설립했고, 유럽연합은 AI 법안을 통과시켰다. 그런데 2년이 지난 지금, 규제 논의는 어디로 갔을까?

트럼프 행정부가 출범하면서 상황이 바뀌었다. 규제보다는 성장이 우선이고, 중국의 딥시크 같은 강력한 AI 모델이 등장하면서 "규제하다 뒤처지는 것 아니냐"는 우려가 커졌다. AI 붐이 미국 경제 성장의 70%를 견인하는 상황에서 브레이크를 밟기는 쉽지 않다.

세 마리 토끼를 동시에 잡을 수 있을까

외교협회(CFR)의 두 연구원이 제시한 'AI 삼중 딜레마'는 흥미롭다. 정부가 추구할 수 있는 세 가지 목표 - 국가안보, 경제안보, 사회안전 - 중에서 동시에 모든 것을 얻기는 어렵다는 분석이다.

국가안보와 경제안보를 동시에 추구하면? AI 연구개발에 최대한 투자하고 규제는 최소화한다. 트럼프 행정부의 접근법이다. 하지만 이 경우 사회안전은 뒷전이 된다. 일자리 대체, 딥페이크, 사이버 공격 위험이 커져도 "일단 개발부터"가 된다.

국가안보와 사회안전을 우선시하면? AI를 핵기술처럼 군사·에너지 분야로 제한하고 민간 사용을 엄격히 통제한다. 안전하지만 경제적으로는 뒤처진다. 국내 기업들이 AI 효율성을 활용하지 못해 국제 경쟁력을 잃는다.

경제안보와 사회안전을 함께 추구하면? '책임감 있는 혁신'이라는 이름으로 빠른 개발과 신중한 출시를 병행한다. 하지만 신중한 국가가 검증에 시간을 쓰는 동안, 무모한 경쟁국이 자율무기와 사이버 능력을 먼저 배치해 군사적 우위를 점할 수 있다.

특이점 착각이 만든 혼란

규제 논의를 더욱 복잡하게 만든 것은 '특이점(singularity)' 개념이다. AI가 스스로를 개선하면서 폭발적으로 발전해 초지능에 도달한다는 아이디어다. 공상과학 소설가 버너 빈지가 30년 전 제시한 개념인데, 실리콘밸리에서는 마치 확정된 미래처럼 받아들여진다.

특이점을 믿으면 선택이 단순해진다. 어차피 초지능이 모든 것을 바꿀 텐데 현재의 국가안보나 경제안보 노력이 무슨 의미가 있겠는가? 결국 "누가 먼저 특이점에 도달하느냐"와 "초지능이 인간을 해치지 않게 하느냐"만 중요하다는 논리다.

하지만 이런 사고방식에는 함정이 있다. 특이점이 언제 올지, 정말 올지도 확실하지 않다. 그런데 확실하지 않은 미래를 위해 현재의 구체적인 위험들 - 일자리 대체, 허위정보 확산, 사생활 침해 - 을 방치하는 것이 과연 현명할까?

한국은 어떤 선택을 해야 할까

한국 상황은 더욱 복잡하다. 삼성전자와 SK하이닉스가 AI 반도체 시장에서 핵심 역할을 하지만, 동시에 미·중 기술 패권 경쟁의 한복판에 서 있다. 네이버와 카카오는 자체 AI 모델을 개발하고 있지만, 글로벌 빅테크 대비 규모의 한계가 있다.

유럽식 강력한 규제를 택하면 혁신 속도가 늦어질 수 있다. 미국식 자유방임을 택하면 사회적 부작용이 커질 수 있다. 그렇다면 한국만의 '제3의 길'은 없을까?

저자들이 제안하는 '위험세(risk tax)'는 흥미로운 아이디어다. AI 기업들에게 위험도에 따라 세금을 부과하고, 그 수익으로 안전 연구를 지원하는 것이다. 규제로 혁신을 막는 대신 시장 메커니즘을 통해 안전한 AI 개발을 유도한다.