메타, 유휴 추론 자원으로 광고 후보·모델 적용 폭 조정…기본 서비스 보호 구조 공개
메타가 회수 가능한 유휴 추론 자원을 광고 추천에 활용하는 구조를 공개했다. RMA는 평가 후보 수를, SBM은 더 강력한 모델로 보내는 요청 비율을 조절한다. 자원이 줄면 추가 작업을 덜어내 기본 서비스에 부담이 넘어가지 않게 설계했다. 자원 구성·부하 분산·모델 계산·배분 정책이 함께 작동하며 결과를 단일 모델 효과로 볼 수는 없다.
“AI추론” 검색 결과검색 초기화4편
마이크로소프트, 자체 AI 가속기 '마이아' 2027년 멀티 기가와트 규모 확대
마이크로소프트가 상용 가동 중인 AI 추론 가속기 '마이아 200'의 운용 현황과 함께 2027년 배포를 목표로 하는 차세대 '마이아 300'을 공개했다. 전력 밀도 최적화와 메모리 병목 해소를 통해 멀티 기가와트 단위로 자체 인프라를 확장한다는 구상이지만, 비교 대상 미공개와 외부 공급 여부 등 검증 과제도 공존한다.
Azure·AMD 협력 확대, 데이터 처리·칩 설계·AI 추론에 서로 다른 인프라
마이크로소프트와 AMD가 Helios와 차세대 EPYC 기반의 Azure 인프라 확대를 발표했다. HDv2·HXv2·ND MI455X v7의 용도를 나누고 CPU·메모리·네트워크를 함께 구성한다. 공개한 예정 사양과 이용 가능성, 실제 작업의 성능을 구분해 살핀다.
LG AI연구원 'K-엑사원 4.0', 동급 글로벌 모델 중 최고 성능 달성
LG AI연구원이 차세대 AI 모델 'EXAONE 4.0'을 공개했습니다! 이 모델은 추론 능력과 일반 지식을 결합한 하이브리드 구조로 설계되어 복잡한 사고가 가능하며, 동급 글로벌 모델 중 최고 성능을 자랑합니다. 특히 Reasoning 영역에서 뛰어난 성능을 보이며, Agentic AI 구현에 필요한 핵심 기능도 지원합니다. 서버 및 모바일 환경 모두에서 활용 가능하며, 128K 토큰을 제공하여 장문 처리 능력도 크게 향상되었습니다. Agent 구현을 위한 기능까지 갖춘 EXAONE 4.0, 더욱 자세한 내용은 LG AI Research에서 확인하세요!
