엔비디아, 64GB 통합 메모리 탑재 ‘DGX 스파크’ 공개… 개인용 AI 인프라의 득과 실
엔비디아가 OEM 파트너를 통해 64GB 통합 메모리를 갖춘 개인용 AI 워크스테이션 ‘DGX 스파크’를 4,999달러에 출시합니다. 엔터프라이즈급 소프트웨어 생태계와 손쉬운 다중 노드 확장을 앞세웠으나, 저정밀도 양자화 전제 조건과 가파르게 상승한 기가바이트당 가격은 실무 도입 시 꼼꼼히 따져봐야 할 대목입니다.
“양자화” 검색 결과검색 초기화2편
Transformers, GGUF 양자화 실행 경로 추가…애플 실리콘·Qwen3.5부터 지원
허깅페이스가 ggml의 Metal 커널로 압축 가중치를 직접 계산하는 Transformers 실행 경로를 소개했다. 초기 대상은 애플 실리콘과 Qwen3.5 계열이다. 익숙한 Python·PyTorch 인터페이스로 GGUF를 다루지만 커널이 없으면 가중치를 풀어 메모리를 더 쓰고, llama.cpp 비교도 서로 다른 측정 조건을 명시한다.
