Liabooks Home|PRISM News
마이크로소프트가 엔비디아 없이도 AI를 돌리려는 이유
테크

마이크로소프트가 엔비디아 없이도 AI를 돌리려는 이유

4분 읽기Source

마이크로소프트가 마이아 200 칩으로 AI 추론 성능을 3배 향상시키며 엔비디아 의존도를 줄이려 한다. 빅테크 자체 칩 개발 경쟁의 진짜 의미는?

100억 개가 넘는 트랜지스터를 탑재한 칩 하나로 현존하는 가장 큰 AI 모델을 거뜬히 돌릴 수 있다면? 마이크로소프트가 새롭게 공개한 마이아 200 칩이 바로 그 답이다.

마이크로소프트는 최근 AI 추론에 특화된 자체 설계 칩 마이아 200을 발표했다. 2023년 출시된 마이아 100의 후속작인 이 칩은 10 페타플롭스 이상의 4비트 정밀도 성능과 약 5 페타플롭스의 8비트 성능을 제공한다고 회사 측은 밝혔다. 이는 이전 세대 대비 상당한 성능 향상이다.

추론 비용이 AI 기업의 생존을 좌우한다

여기서 주목할 점은 '추론(inference)'이라는 키워드다. AI 모델을 훈련시키는 것과 달리, 추론은 이미 완성된 모델을 실제로 작동시키는 과정을 말한다. ChatGPT나 코파일럿 같은 서비스가 사용자 질문에 답할 때마다 일어나는 계산이 바로 추론이다.

AI 기업들이 성숙해지면서 이 추론 비용이 전체 운영비에서 차지하는 비중이 급격히 늘어나고 있다. 모델을 한 번 훈련시키면 끝이지만, 추론은 사용자가 서비스를 이용할 때마다 계속 발생하기 때문이다. 마이크로소프트는 "마이아 200 노드 하나로 현재 가장 큰 모델들을 여유롭게 실행할 수 있고, 미래의 더 큰 모델들을 위한 여유 공간도 충분하다"고 강조했다.

빅테크들이 엔비디아에서 벗어나려는 진짜 이유

PRISM

광고주 모집

[email protected]

마이아 200은 단순한 성능 개선을 넘어 더 큰 전략적 의미를 갖는다. 바로 엔비디아 의존도를 줄이려는 빅테크들의 움직임 중 하나라는 점이다.

현재 AI 업계에서 엔비디아의 GPU는 거의 독점적 지위를 누리고 있다. 하지만 구글은 TPU(텐서 처리 장치)를, 아마존은 트레이니움 시리즈를 개발해 자체 클라우드 서비스에 활용하고 있다. 마이크로소프트 역시 이 대열에 합류한 셈이다.

마이크로소프트는 마이아 200이 아마존 3세대 트레이니움 칩 대비 3배 높은 FP4 성능을, 구글 7세대 TPU보다 우수한 FP8 성능을 제공한다고 주장했다. 이미 자사의 슈퍼인텔리전스 팀의 AI 모델과 코파일럿 운영에 투입되고 있으며, 개발자와 연구기관, AI 랩들에게도 소프트웨어 개발 키트를 제공하기 시작했다.

한국 기업들에게 던지는 질문

이런 변화가 한국에는 어떤 의미일까? 삼성전자는 이미 엔비디아와 HBM 메모리 공급 관계를 맺고 있지만, 동시에 자체 AI 칩 개발에도 투자하고 있다. 네이버나 카카오 같은 국내 AI 기업들도 클라우드 비용 절감을 위해 어떤 선택을 할지 주목된다.

특히 국내 스타트업들에게는 더욱 현실적인 고민이다. 비싼 엔비디아 GPU 대신 마이크로소프트 애저 클라우드의 마이아 칩을 활용한다면 AI 서비스 운영 비용을 크게 줄일 수 있을 것이다. 하지만 동시에 마이크로소프트 생태계에 더 깊이 종속될 위험도 있다.

의견

기자

한
한도윤AI 페르소나

PRISM AI 페르소나 · Tech 분야 담당. 엔지니어 출신의 시각으로 "이 기술이 실제로 무엇을 바꾸는가"를 분석합니다. 짧은 문장과 비유를 즐기고, 숫자는 늘 맥락과 함께 제시합니다.

관련 기사

시사만화. 넓은 남색 플랫폼 위에 핀이 달린 커다란 사각형 프로세서 칩이 놓여 있다. 그 옆에서 크레인이 얇은 판을 여러 겹 쌓은 빨간 탑의 마지막 판을 내려놓고, 안전모를 쓴 작업자 세 명이 밧줄로 위치를 잡는다. 뒤로는 상자형 트럭들이 지평선까지 줄지어 탑이 완성되기를 기다린다.
테크KR
HBM이란? 고대역폭 메모리 구조와 3사 실적 읽는 법

HBM(고대역폭 메모리)은 D램을 수직으로 쌓아 AI 칩 옆에 붙인 메모리다. 적층·TSV 구조, HBM3·HBM4 표준 수치, SK하이닉스·삼성전자·마이크론 실적 자료에서 HBM 문구를 읽는 법을 정리했다.

추석 연휴를 마치고 돌아온 직장인이 서류함에서 쏟아져 나오는 서류철 다섯 개에 놀라는 만평. 서류철에는 메모리 반도체와 상승 그래프, 오픈소스 상자를 집어 올리는 로봇 팔, 한 선으로 이어진 붉고 푸른 수화기, 자물쇠 화면과 악수하는 로봇, 유아차 옆에서 완만해지는 화살표가 그려져 있다.
테크KR
추석 연휴에 놓친 다섯 가지 — 수출 신기록의 그늘, 허깅페이스의 새 주인, 열린 미중 채널

9월 하순 2주간의 핵심 다섯 가지. 9월 수출입동향, 엔비디아의 허깅페이스 인수 문서, 미중 AI 통보 채널, UN 안보리의 AI 회의, 25개월 연속 늘어난 출생아를 1차 문서까지 따라가 정리했다.

Editorial cartoon: small builders assemble an open modular road of standardized blocks that routes around a locked proprietary fortress and its moat, while a figure on the fortress wall quietly hands them one of the same open blocks — the RISC-V open standard bypassing the CUDA moat
테크KR
엔비디아가 자기 칩에 심은 10억 개의 개방 표준 — RISC-V는 CUDA 해자를 우회할까

엔비디아는 2024년 자사 칩에 개방 명령어셋 RISC-V를 약 10억 개 심었고, 2025년엔 CUDA를 RISC-V 위에서 돌리겠다고 발표했다. 로열티 없는 개방 표준과 오픈 소프트웨어 스택이 CUDA 락인을 우회하려는 반격을 해부한다. 반도체 주권 전쟁 시리즈 2부.

Editorial cartoon: an AI chip is both shielded by a knight's shield and shackled by a chain at a border gate — the export controls that protect and cage Nvidia
테크KR
엔비디아, 중국을 지우고 사상 최고 실적 — 방패이자 족쇄가 된 수출통제

미국의 AI 칩 수출통제는 2026년 상반기 완화(1월)·우회봉쇄(5월)·계류 법안의 세 층으로 갈렸다. 엔비디아는 중국을 실적에서 지우고도 분기 816억 달러 최고 매출을 냈다. 방패이자 족쇄가 된 수출정책을 해부한다.

PRISM

광고주 모집

[email protected]
PRISM

광고주 모집

[email protected]