AI가 AI를 만드는 시대, 인간은 무엇을 하는가

지난달 말, 샌프란시스코 도심에 한 무리의 사람들이 모였다. 그들이 든 피켓에는 이렇게 적혀 있었다. "AI 경쟁을 멈춰라.""스카이넷을 만들지 마라." 시위대는 Anthropic, OpenAI, xAI 사무실 앞을 행진하며 하나의 메시지를 외쳤다. 스스로 더 똑똑해지는 AI, 그것만은 만들지 말라고.

그런데 공교롭게도, 같은 시각 실리콘밸리 안에서는 정반대의 열기가 끓어오르고 있었다.

'AI가 AI를 만든다'는 아이디어는 어디까지 왔나

OpenAI는 최근 "스스로를 만드는 데 기여한" 새 모델을 공개했다. 앞으로 6개월 안에는 '인턴급 AI 연구 보조원'을 출시하겠다고 밝혔다. Anthropic은 자사 코드의 90%를 이미 Claude가 작성하고 있다고 주장한다. Google DeepMind의 AI 코딩 에이전트 AlphaEvolve는 구글 데이터센터 전체의 연산 효율을 평균 0.7% 높이고, Gemini 훈련 시간을 1% 단축했다.

숫자만 보면 소박해 보일 수 있다. 하지만 이 흐름이 향하는 곳은 작지 않다. Sam Altman은 2028년까지 '완전 자동화된 AI 연구원'을 개발하겠다고 선언했다. AI 미래 프로젝트의 연구원 Eli Lifland는 2032년이면 AI 연구·개발 전 과정이 자동화될 수 있다고 전망한다.

이 개념 자체는 새것이 아니다. 통계학자 I. J. Good은 1960년대에 이미 '재귀적 자기개선(recursive self-improvement)'이라는 개념을 제시했다. 스스로보다 더 뛰어난 후계자를 훈련시킬 수 있는 기계가 탄생하면, 그것이 인류가 만들어야 할 "마지막 발명품"이 될 것이라고 했다. 당시엔 공상이었다. 지금은?

왜 지금 이 이야기가 현실처럼 들리는가

광고

광고주 모집

[email protected]

광고

불과 몇 년 전만 해도 AI가 덧셈과 뺄셈도 제대로 못 했다. AI가 스스로 연구를 설계하고 실험을 반복한다는 건 SF의 영역이었다. 그런데 AI 모델들이 코딩에서 눈에 띄게 강해지면서 분위기가 달라졌다. Anthropic CEO Dario Amodei는 코딩 도구 덕분에 회사 전체 업무 속도가 15~20% 빨라졌다고 말했다.

AI 연구는 생각보다 반복적인 작업으로 가득하다. 방대한 데이터셋 정리, 실험 반복, 결과 해석. 이 중 상당 부분을 AI가 대신할 수 있게 되면서, 인간 연구자들은 더 창의적인 판단에 집중할 수 있게 됐다. 문제는 그 '창의적 판단'마저 AI가 흉내내기 시작한다면 어떤 일이 벌어지느냐다. 실리콘밸리 내부에서는 이를 '리서치 테이스트(research taste)'라고 부른다. 최고의 소프트웨어 엔지니어가 보여주는 직관과 판단력. 지금의 AI는 아직 거기까지는 못 미친다. 하지만 METR의 연구원 Neev Parikh는 단호하게 말한다. "속도가 줄어들 이유를 모르겠다."

낙관도, 공포도 단정하기 어려운 이유

물론 회의론도 만만치 않다. DeepMind 부사장 Pushmeet Kohli는 "자기개선 루프를 실현할 전체 파이프라인은 아직 완성되지 않았다"고 말한다. AI는 무언가를 최적화할 수 있지만, "무엇을 위해 최적화할지"는 여전히 인간이 결정해야 한다는 것이다. 자금, 반도체, 데이터센터 에너지 같은 현실적 제약도 언제든 발목을 잡을 수 있다.

그럼에도 DeepMind, OpenAI, Anthropic, Meta, UC버클리, 프린스턴, 스탠퍼드의 연구자 25명을 인터뷰한 학술 연구에서 20명이 'AI 연구 자동화'를 업계에서 가장 심각하고 시급한 위험 중 하나로 꼽았다. AI 위험 연구의 권위자인 철학자 Nick Bostrom은 스스로를 한때 '걱정하는 낙관론자'라고 불렀지만, 이제는 '온건한 숙명론자'가 됐다고 말한다.

한국에서 이 흐름을 바라볼 때 빠뜨릴 수 없는 시각이 있다. 삼성전자, 네이버, 카카오, LG AI연구원 등 국내 기업들도 자체 AI 연구 역량을 키우고 있지만, 자기개선 AI 개발에서 글로벌 선두 기업들과의 격차는 아직 상당하다. AI 연구 자동화가 가속화될수록, 선두 기업들의 기술 우위는 더 빠르게 벌어질 수 있다. 반도체 생태계에서 경험했던 '선두 독식' 구조가 AI 연구 영역에서도 재현될 가능성이 있다. 국내 AI 생태계가 단순한 '응용·서비스' 레이어에 머무를 것인지, 아니면 연구 자동화 흐름에 올라탈 수 있을지는 지금 이 시점의 투자와 인재 전략에 달려 있다.

그리고 더 근본적인 질문이 있다. 정부와 제도는 이 속도를 따라갈 수 있을까. 미국의 국세청(IRS)은 아직도 1960년에 나온 프로그래밍 언어 COBOL로 세금 신고를 처리한다. 전 트럼프 행정부 AI 보좌관 Dean Ball은 "이 변화는 AI 경쟁의 역학을 바꾸고, AI 지정학을 바꿀 것"이라고 썼다. 상원의원 Bernie Sanders는 최근 의회에서 경고했다. "인간이 실제로 지구에 대한 통제권을 잃을 수 있다."