클라우드는 거들 뿐… 구글, 엣지 AI의 미래 '펑션젬마' 전격 공개

리드: 제미나이 3.0의 열기가 식기도 전에 구글이 또 다른 AI 모델을 내놨다. 이번엔 '크기' 경쟁에서 벗어나, 클라우드 연결 없이 스마트폰과 브라우저에서 직접 작동하는 2억 7천만 파라미터의 소형 언어 모델(SLM) '펑션젬마(FunctionGemma)'다. 이는 AI 업계의 거대한 흐름을 뒤바꿀 수 있는 구글 딥마인드의 전략적 승부수다.

구글 AI 개발자팀은 최근 자연어 명령을 앱과 기기가 실행할 수 있는 구조화된 코드로 변환하는 데 특화된 AI 모델, 펑션젬마를 공개했다. 챗봇처럼 대화하는 범용 모델과 달리, 펑션젬마는 현대 애플리케이션 개발의 고질적 병목 현상인 '엣지에서의 안정성'이라는 단 하나의 목표를 위해 설계됐다.

지금까지 업계가 조 단위 파라미터 경쟁에 몰두하는 동안, 구글은 휴대폰, 브라우저, IoT 기기에서 로컬로 실행되는 '소형 언어 모델'에 베팅한 것이다. AI 엔지니어에게 이는 개인정보를 보호하면서도 지연시간 없이 복잡한 로직을 기기 내에서 처리하는 새로운 '지능형 라우터'의 등장을 의미한다.

펑션젬마는 현재 허깅페이스(Hugging Face)와 캐글(Kaggle)에서 즉시 다운로드할 수 있으며, 구글 플레이스토어에서 'Google AI Edge Gallery' 앱을 통해 실제 작동을 확인할 수 있다.

작지만 압도적인 성능 도약

펑션젬마의 핵심은 생성형 AI의 '실행 격차'를 메우는 데 있다. 일반적인 거대 언어 모델(LLM)은 대화에는 능숙하지만, 특히 자원이 제한된 기기에서 소프트웨어 동작을 안정적으로 실행하는 데는 어려움을 겪는다.

구글의 내부 '모바일 액션' 평가에 따르면, 일반적인 소형 모델은 함수 호출 작업에서 58%의 기본 정확도를 보이는 데 그쳤다. 하지만 이 특정 목적을 위해 미세조정(fine-tuning)된 펑션젬마의 정확도는 85%까지 급상승했다. 이는 자신보다 몇 배나 큰 모델과 맞먹는 성공률이다.

덕분에 펑션젬마는 단순한 켜고 끄기 스위치를 넘어, 게임 메커니즘을 구동하기 위한 특정 좌표를 식별하거나 세부적인 논리를 분석하는 등 복잡한 인수까지 처리할 수 있다.

구글은 모델 가중치뿐만 아니라 개발자를 위한 완벽한 '레시피'를 함께 제공한다.

• 모델: 6조 개의 토큰으로 학습된 2억 7천만 파라미터 트랜스포머
• 학습 데이터: 개발자가 자신만의 에이전트를 훈련시킬 수 있는 '모바일 액션' 데이터셋
• 생태계 지원: 허깅페이스 트랜스포머, 케라스, 언슬로스, 엔비디아 네모 라이브러리와의 호환성

허깅페이스의 개발자 경험 책임자인 오마르 산세비에로(Omar Sanseviero)는 X(구 트위터)를 통해 "자신만의 작업에 특화되도록 설계되었으며, 휴대폰, 브라우저 등 다양한 기기에서 실행할 수 있다"며 이번 릴리스의 다재다능함을 강조했다.

AI 빌더를 위한 새로운 프로덕션 워크플로우

기업 개발자와 시스템 아키텍트에게 펑션젬마는 거대한 단일 AI 시스템에서 벗어나 복합 시스템으로의 전환을 제안한다. 사용자의 사소한 요청 하나하나를 GPT-4나 제미나이 1.5 프로 같은 비싼 클라우드 모델로 보내는 대신, 펑션젬마를 엣지 단의 지능형 '교통 관제사'로 배치할 수 있다.

1. '교통 관제사' 아키텍처: 펑션젬마는 사용자 기기에서 1차 방어선 역할을 한다. 내비게이션, 미디어 제어, 기본 데이터 입력 등 빈번하고 일반적인 명령을 즉시 처리한다. 만약 깊은 추론이나 방대한 지식이 필요한 요청이 들어오면, 이를 감지해 더 큰 클라우드 모델로 요청을 전달한다. 이 하이브리드 접근 방식은 클라우드 추론 비용과 지연 시간을 극적으로 줄인다.
2. 창의적 혼돈 대신 결정론적 신뢰성: 기업은 은행이나 캘린더 앱이 '창의적'이길 원하지 않는다. 그들은 '정확성'을 원한다. 85%라는 정확도는 전문화가 크기를 이긴다는 사실을 증명한다. 이 작은 모델을 기업 내부 API와 같은 특정 도메인 데이터로 미세조정하면, 예측 가능하게 작동하는 고신뢰성 도구를 만들 수 있다.
3. 개인정보 보호 우선 설계: 의료, 금융, 보안 등 민감 데이터를 다루는 분야에서 클라우드 데이터 전송은 규제 준수 리스크를 동반한다. 펑션젬마는 기기 내에서 실행될 만큼 효율적이므로, 개인 식별 정보나 독점적 명령어 같은 민감 데이터가 로컬 네트워크를 떠날 필요가 없다.

PRISM Insight: 펑션젬마의 등장은 AI 아키텍처의 거대한 전환을 예고한다. 모든 것을 클라우드의 거대 모델에 의존하던 '중앙집권적 AI' 시대에서, 엣지의 작고 전문화된 모델이 1차 처리를 담당하고 필요시 거대 모델과 협력하는 '분산형 AI' 시대로의 전환이다. 이는 비용 절감과 속도 향상을 넘어, 데이터 주권과 개인정보 보호가 핵심인 차세대 애플리케이션의 청사진을 제시한다.

라이선스: 조건부 '오픈'

펑션젬마는 구글의 자체 '젬마 이용약관'에 따라 배포된다. 이는 MIT나 아파치 2.0 같은 표준 오픈소스 라이선스와는 다르다는 점을 기업 개발자들은 인지해야 한다.

구글은 젬마를 '오픈 모델'이라고 설명하지만, 오픈소스 이니셔티브(OSI)의 엄격한 정의에 따르면 '오픈소스'는 아니다. 라이선스는 상업적 사용, 재배포, 수정을 허용하지만 특정 '사용 제한' 조항을 포함한다. 예를 들어 혐오 발언이나 악성코드를 생성하는 등의 제한된 활동에 모델을 사용하는 것은 금지된다.

대부분의 스타트업과 개발자에게는 상용 제품을 만드는 데 충분히 허용적인 라이선스다. 하지만 이중용도 기술을 개발하거나 엄격한 카피레프트(copyleft)가 필요한 팀은 '유해한 사용' 관련 조항을 면밀히 검토해야 한다.