AI가 인간의 2백만 년 협력 DNA를 끊을 수 있을까

10,000번 돌로 사암을 쪼아댔지만 결국 돌이 부서져버렸다. 한 학생이 문짝 구멍을 만들려다 겪은 실패담이다. 개인의 시행착오만으로는 한계가 있다는 걸 보여주는 사례다.

그런데 이상한 일이 있다. 인간이 창던지기를 수십만 년 해왔지만 실력은 거의 늘지 않았다. 2024년 파리 올림픽 금메달 기록도 1996년 얀 젤레즈니의 세계기록보다 5% 짧다. 바둑도 마찬가지였다. 1950년부터 2016년까지 고수들의 실력은 정체됐다가 AI가 등장하면서 판이 바뀌었다.

반면 기술은 다르다. 1997년 IBM 딥블루가 체스 챔피언을 이긴 뒤 슈퍼컴퓨터는 백만 배 빨라졌다. 왜 개인 능력은 정체되는데 기술은 계속 발전할까?

2백만 년 협력의 비밀

인류학자 알렉산더 벤틀리는 그 답을 "TECH"에서 찾는다. 전통(Tradition), 전문성(Expertise), 협력(Collaboration), 인간성(Humanity)이다.

가장 오래된 기술 전통은 아슐리안 손도끼다. 우리 조상들이 거의 백만 년 동안 만들어 사용했다. 한 곳에서만 70만 년을 쓴 기록도 있다. 개인이 혼자 터득한 게 아니라 세대를 거쳐 전수된 전문 지식이었다.

2만2천 년 전 갈릴리 호수 근처 공동체는 백 가지가 넘는 식물을 저장하고 활용했다. 약초도 포함됐다. 샤먼들이 의료 지식을 전담했고, 이들은 수천 년간 존경받았다. 이스라엘의 한 동굴에서 발견된 여성 샤먼의 무덤에는 거북이 껍질, 독수리 날개, 잘린 인간 발이 함께 묻혀 있었다.

바퀴에서 아이폰까지

하지만 전문성만으로는 기술이 발전하지 않는다. 서로 다른 전문 지식이 만날 때 혁신이 일어난다.

바퀴는 구리 채굴 공동체에서 나왔을 가능성이 크다. 기원전 4000년경, 한 전문가는 발칸반도에서 구리를 구했고, 다른 전문가는 그걸 운반했으며, 또 다른 전문가는 제련했다. 추가로 여러 전문가가 협력해 바퀴 모양 부적을 만들었다. 밀랍 모형 제작부터 점토 주형, 가마 소성, 금속 주조, 주형 제거까지 각각 다른 기술이 필요했다.

고대 이집트의 미라 제작도 마찬가지다. 어느 한 공동체도 혼자서는 미라를 만들 수 없었다. 사카라의 미라 제작 전문가들은 대륙 전체 네트워크에 의존했다. 오일, 타르, 수지를 공급받아 방부, 방역, 포장, 관 밀봉 등 전문 기술과 결합했다.

오늘날 아이폰도 똑같다. 전 세계 전문 시설과 지식이 분산된 네트워크에서 조립된다.

AI가 깨뜨리는 공식

그런데 AI가 이 2백만 년 공식을 위협하고 있다. 대부분의 대형 언어모델은 통계적으로 흔한 답변을 생성한다. 문화를 평면화하고 전문성과 독창성을 희석시킨다.

더 큰 문제는 고품질 훈련 데이터, 즉 인간 전문성의 저장고가 고갈되고 있다는 점이다. 저품질 콘텐츠로 훈련된 모델은 시간이 지나면서 추론과 이해 능력이 측정 가능할 정도로 떨어진다.

인간과 대형 언어모델이 재활용된 뻔한 콘텐츠를 서로 주고받는 악순환에 빠질 위험이 있다. 극단적으로는 AI 모델 붕괴가 일어날 수 있다. 자신의 결과물로만 훈련된 시스템이 말도 안 되는 결과를 내놓기 시작하는 것이다.

전문가가 답이다

하지만 해법도 있다. 핵심은 인간 전문가를 계속 참여시키는 것, 즉 TECH의 'E'를 유지하는 것이다.

구피 실험이 흥미롭다. 구피들은 이웃을 따라다니다가 결국 먹이 쪽으로 안내하는 로봇 물고기를 따라 무리를 이뤘다. 최근 연구에서는 자율주행차가 전체 차량의 5%만 차지해도 교통 체증이 완화됐다. 소수의 정보를 가진 개체가 전체 시스템의 행동을 바꾼 것이다.

대형 언어모델도 사회적 학습자다. 2010년대 딥마인드의 알파고는 개별 학습을 통해 수백 년간 축적된 인간의 바둑 지식을 재발견했다. 그리고 인간이 한 번도 두지 않은 전략을 만들어내며 그 이상으로 나아갔다. 이후 인간 바둑 고수들이 AI가 만든 전략을 자신들의 기보에 채택했다.

잘 훈련된 대형 언어모델은 방대한 과학 정보를 요약하고, 음모론에서 사람들을 벗어나게 도우며, 다양한 그룹이 합의점을 찾도록 돕기도 한다. 이런 경우 학습이 양방향으로 흐른다.