마이아 200의 프로덕션 가동과 2027년 멀티 기가와트 로드맵
마이크로소프트는 2026년 10월 12일 공식 발표를 통해 자체 설계 AI 가속기 제품군인 '애저 마이아(Azure Maia)'를 2027년부터 멀티 기가와트(multi-gigawatt) 규모로 확장 투입하겠다고 밝혔다. 회사는 마이아 시리즈를 마이크로소프트 주요 서비스의 핵심 1차 추론 인프라로 자리매김시킨다는 구상이다.
현재 2세대 칩인 '마이아 200(Maia 200)'은 미국, 유럽, 호주 데이터센터에서 상용 워크로드에 실제로 투입되어 가동되고 있다. 마이크로소프트 코파일럿(Microsoft Copilot)과 MAI(Microsoft AI) 팀의 차세대 파운데이션 모델 개발에 사용 중이며, 구동 모델은 오픈AI(OpenAI) 계열 모델과 마이크로소프트 자체 MAI 모델, 주요 오픈소스 모델을 아우른다.
마이크로소프트는 연내 적용 범위를 깃허브 코파일럿(GitHub Copilot)과 마이크로소프트 파운드리(Microsoft Foundry)로 넓힐 계획이다. 회사 측 주장에 따르면 마이아 200은 팀즈(Teams) 및 코파일럿 환경에서 기존 주요 GPU 인프라 대비 와트당 최대 1.7배 높은 토큰 처리량을 기록하고 있다.
차세대 마이아 300의 아키텍처와 하드웨어 규격
마이크로소프트는 2027년 양산 배포를 목표로 하는 3세대 가속기 '마이아 300(Maia 300)'의 세부 하드웨어 사양을 함께 제시했다. 마이아 300은 긴 컨텍스트 연산(long-context reasoning), 저지연 대화 처리, 복합 에이전트(multi-step agentic) 환경에 대응하도록 설계된 추론 특화 칩이다.
마이아 300의 컴퓨트 칩렛은 TSMC의 N2P 첨단 공정 노드를 기반으로 제작되며, 연산부와 메모리 컨트롤러, I/O 영역을 물리적으로 분리한 멀티 칩렛 아키텍처를 도입했다. 칩당 전력 설계(TDP)는 950W 수준으로 설정되었으며, 8개의 HBM4 스택을 집적해 최대 18.0TB/s의 메모리 대역폭을 구현했다. 또한 온다이(On-die) SRAM을 소프트웨어 제어 스크래치패드로 활용해 HBM 접근 병목을 완화하도록 했다.
수치 연산 포맷으로는 향상된 MXFP4 등 저정밀 포맷을 채택해 연산 대역폭뿐 아니라 KV 캐시(KV-cache) 메모리 점유율을 줄였다. 랙(Rack) 인프라 차원에서는 167kW 전력 규격 내에 96개의 가속기를 집적하며, 랙 단위 집계 메모리 용량은 27.6TB, 집계 HBM 대역폭은 1.7PB/s에 달한다. 가속기 간 연결은 텐서 병렬 처리에 최적화된 인터커넥트와 커스텀 이더넷 전송 계층을 결합한 데이터플로우 네트워크로 구성된다.
데이터센터 전력 병목 대응과 자체 실리콘 수직 계열화
마이크로소프트의 이번 발표는 AI 인프라 확장의 한계선이 순수 연산 속도에서 '데이터센터 전력 공급 용량'으로 옮겨갔음을 명확히 보여준다. 전력망 용량이 제한된 상황에서 운영 비용을 통제하려면 동일 전력 대비 토큰 처리량을 극대화하는 '와트당/메가와트당 토큰 생산성'이 핵심 지표가 될 수밖에 없다.
동시에 이는 엔비디아 등 특정 외부 하드웨어 공급사에 대한 과도한 의존도를 낮추고 추론 비용을 절감하기 위한 전략적 선택이다. 구글이 자체 TPU 생태계를 강화하고 아마존웹서비스(AWS)가 트레이니엄과 인퍼런시아를 전면에 내세우듯, 마이크로소프트 역시 자사 대규모 SaaS 제품군의 백엔드를 자체 칩으로 교체해 마진율을 방어하려는 구조적 수직 계열화를 밟고 있다.
특히 장기 컨텍스트와 에이전트형 모델의 확산은 메모리 용량과 대역폭 한계로 이어지는데, 마이아 300이 N2P 칩렛 분리와 HBM4를 대규모로 투입한 배경도 이 같은 모델 구조 변화에 하드웨어를 선제적으로 맞추려는 시도로 해석된다.
기업 성능 발표의 비교 기준 한계와 미확인 요소
마이크로소프트는 마이아 300이 기존 '주요 GPU 기반 시스템(leading GPU-based systems)'보다 메가와트당 40% 더 많은 토큰을 생성하며, 96가속기 풀 랙 기준 마이아 200 대비 최대 7배의 토큰 처리량을 낸다고 발표했다. 그러나 이러한 지표를 독립적으로 검증된 사실로 받아들이기에는 한계가 있다.
우선 마이크로소프트가 대조군으로 제시한 '주요 GPU'가 엔비디아의 호퍼(H100/H200) 세대인지, 혹은 차세대 블랙웰(Blackwell B200)인지 명확한 측정 기준과 벤치마크 환경이 공개되지 않았다. 2027년 배포 예정인 미출시 칩의 특성상 제시된 수치는 실제 현장 운용 결과가 아닌 내부 시뮬레이션 및 설계 목표치에 가깝다.
또한 '멀티 기가와트'라는 확장 규모 역시 총 전력 용량의 정량적 범위나 단계별 연도 투자액, 실질적인 배치 수량이 명시되지 않았다. 이러한 불투명성은 시장 공시 수준의 구체적 근거가 추가로 확인되어야 함을 시사한다.
고밀도 인프라 전환의 과제와 외부 클라우드 개방성
실무적 관점에서 마이아 300 시스템의 도입은 데이터센터 설비 전반의 대대적인 물리적 개조를 요구한다. 랙당 167kW에 달하는 전력 밀도는 기존 공랭식 공조 설비로는 감당할 수 없으며, 광범위한 고밀도 액체 냉각(Liquid Cooling) 설비 구축이 필수적으로 선행되어야 한다.
이용 대상 측면에서도 명확한 구분이 필요하다. 현재 마이아 200과 차세대 마이아 300은 코파일럿, 팀즈, MAI 모델 등 마이크로소프트 내부의 서비스 워크로드 및 백엔드 운영을 지원하는 용도로 국한되어 있다.
외부 일반 애저(Azure) 엔터프라이즈 고객이 해당 칩을 가상 머신(VM) 인스턴스 형태로 직접 대여해 자체 워크로드를 올릴 수 있는지, 상용 API나 SDK가 개방될지 여부는 일절 발표되지 않았다. 따라서 외부 기업 실무진은 마이아의 등장을 독립적인 하드웨어 선택지로 보기보다는, 코파일럿 등 완제품 SaaS의 서비스 안정성과 추론 지연 시간 개선 여부로 간접 체감하는 단계에 머물 것으로 보인다.
출처
Microsoft Blog의 원출처와 본문에 표시한 참고자료를 바탕으로 한국어로 재구성했습니다. ‘ARCH.B 분석’은 자료를 읽고 덧붙인 편집 해석입니다.
Microsoft to expand Azure Maia system to multi-gigawatt deployments (새 창)
