메타, 온패키지 NIC와 독립 메시지 엔진 결합한 AI 가속기 'MTIA 300' 아키텍처 공개
메타가 대규모 추천 모델 학습을 겨냥해 12개 커스텀 800Gbps RDMA NIC를 칩 패키지에 내장하고 연산과 통신을 물리적으로 분리한 3세대 AI 가속기 'MTIA 300'의 상세 설계를 공개했다. 통신 부하를 하드웨어로 오프로드해 자원 경합을 해소했으나 연산 집약적 LLM에서는 범용 GPU 대비 한계도 뚜렷하다.
메타가 대규모 추천 모델 학습을 겨냥해 12개 커스텀 800Gbps RDMA NIC를 칩 패키지에 내장하고 연산과 통신을 물리적으로 분리한 3세대 AI 가속기 'MTIA 300'의 상세 설계를 공개했다. 통신 부하를 하드웨어로 오프로드해 자원 경합을 해소했으나 연산 집약적 LLM에서는 범용 GPU 대비 한계도 뚜렷하다.