복잡함 버린 Notion AI Agent V3: 단순함이 만든 '퀀텀 점프'

복잡한 코드가 오히려 AI의 발목을 잡고 있었다. 생산성 도구의 강자 Notion의 AI 엔지니어링 리드 라이언 나이스스트롬(Ryan Nystrom)은 최근 팟캐스트에서 Notion AI가 겪은 극적인 변화를 공개했다. 기술적으로 정교한 데이터 모델링을 걷어내고 인간이 이해할 수 있는 언어로 시스템을 재설계하자, AI의 성능이 말 그대로 '폭발'했다는 소식이다.

Notion AI Agent V3 설계의 반전: '개발자 상식'을 뒤집다

전통적인 소프트웨어 엔지니어링은 명확한 규칙과 정밀한 스키마를 선호한다. 하지만 Notion 팀은 시행착오 끝에 정반대의 길을 택했다. 고도로 구조화된 JSON이나 XML 대신, 일반 텍스트 기반의 마크다운(Markdown) 형식을 전면에 내세운 것이다. 나이스스트롬은 "LLM(거대언어모델)은 인간이 세상을 보는 방식 그대로 데이터를 이해하도록 설계되었다"며, 복잡한 렌더링 과정을 생략하고 AI에게 인간과 소통하듯 지시를 내리는 것이 핵심이었다고 설명했다.

이러한 '단순함의 미학'은 실질적인 지표로 증명됐다. 지난 2025년 9월 출시된 Notion V3는 사용자 맞춤형 AI 에이전트 기능을 통해 역대 가장 성공적인 성적을 거두고 있다. 나이스스트롬은 이를 성능의 단순한 향상을 넘어선 '계단식 도약(Step function improvement)'이라고 정의했다.

최적의 성능을 만드는 15만 토큰의 법칙

성능 향상을 위해 무조건 많은 데이터를 넣는 것이 정답은 아니었다. Notion 엔지니어링 팀이 발견한 골디락스 존(최적의 지점)은 100,000~150,000개의 토큰 한도였다. 이 범위를 넘어서면 지연 시간이 늘어날 뿐만 아니라, 모델의 정확도가 떨어지는 '성능 저하 현상'이 나타났기 때문이다. 또한 사용자의 선택지를 무한정 늘리기보다 정제된 도구 메뉴를 제공함으로써 모델이 내려야 할 결정의 가짓수를 줄인 것이 신의 한 수가 되었다.