Transformers, GGUF 양자화 실행 경로 추가…애플 실리콘·Qwen3.5부터 지원
허깅페이스가 ggml의 Metal 커널로 압축 가중치를 직접 계산하는 Transformers 실행 경로를 소개했다. 초기 대상은 애플 실리콘과 Qwen3.5 계열이다. 익숙한 Python·PyTorch 인터페이스로 GGUF를 다루지만 커널이 없으면 가중치를 풀어 메모리를 더 쓰고, llama.cpp 비교도 서로 다른 측정 조건을 명시한다.
“압축” 검색 결과검색 초기화2편
문서의 글과 그림을 같은 인코더로 읽다…NeoMME의 검색 비용·정확도 절충
H컴퍼니가 텍스트와 이미지 패치를 하나의 양방향 인코더로 처리하는 NeoMME를 공개했다. 작은 검색 모델과 압축 색인으로 문서 검색의 비용을 줄이는 방향이지만, 페이지 인코딩 속도와 검색·답변 전체의 성능은 서로 다른 지표다.
