‘제로 출력 토큰’ 구조 채택한 오픈 가중치 결정 모델 제품군
리퀴드 AI(Liquid AI)가 2026년 10월 7일 허깅페이스(Hugging Face)와 공식 기술 채널을 통해 엣지 기기 구동에 맞춘 멀티모달 오픈 가중치 결정 모델 제품군 ‘오픈 d1(Open d1)’을 배포했다. 공개된 체크포인트는 31억 2,000만 파라미터 규모의 ‘d1-3B’와 5억 8,700만 파라미터 규모의 ‘d1-omni-600M’ 두 가지다.
해당 모델군은 일반적인 대화형 언어모델처럼 단어를 순차적으로 생성(Autoregressive Generation)하는 방식을 따르지 않는다. 대신 입력된 상태 정보와 질의를 단 한 번의 순방향 연산(Single forward pass)으로 해석하여, 사전에 정의된 선택지나 평점 확률 분포를 즉시 도출하는 ‘제로 출력 토큰(Zero Output Tokens)’ 구조를 취하고 있다. 이 구조는 텍스트 파싱 과정을 생략하고 라우팅, 모더레이션, 결함 검사 등 구조화된 판단 작업에 특화되어 작동한다.
d1-3B와 d1-omni-600M의 모달리티 지원 및 아키텍처 제원
배포된 두 모델은 매개변수 규모와 입력 지원 방식에서 명확히 구분된다. d1-3B는 디코더 기반 백본인 LFM2.5-VL-3B와 LFM2.5-2.6B의 가중치 평균화를 기반으로 미세조정되었으며, 텍스트와 이미지를 동시에 처리한다. 시각 정보 처리를 위해 4억 파라미터 규모의 SigLIP2 NaFlex 인코더를 탑재했고, 최대 3만 2,768토큰의 컨텍스트 길이를 지원한다.
경량화된 d1-omni-600M은 양방향 인코더 LFM2.5-Encoder-350M을 백본으로 삼아 텍스트 외에 이미지뿐만 아니라 오디오 입력까지 처리할 수 있도록 설계되었다. 9,400만 파라미터의 SigLIP2 비전 타워와 17개 레이어로 구성된 패스트컨포머(FastConformer) 오디오 인코더가 결합되어 총 5억 8,700만 개의 파라미터를 갖춘다. 두 모델 모두 파이토치(PyTorch)와 허깅페이스 트랜스포머 라이브러리는 물론, 엣지 환경 배포를 위한 llama.cpp 프레임워크를 지원한다.
단일 연산 기반의 추론 효율과 엣지 지연 시간 수치
기존 생성형 LLM을 시스템 가드레일이나 요청 라우팅에 활용할 경우, JSON 형식의 텍스트를 한 토큰씩 생성하는 과정에서 상당한 연산 지연과 토큰당 과금이 발생했다. Open d1은 이러한 구조적 비효율을 해결하기 위해 모델 최종 계층의 클래스 분포에서 확률값을 직접 반환하는 방식을 택했다.
리퀴드 AI가 공개한 측정 결과에 따르면, 데스크톱 GPU인 엔비디아 지포스 RTX 4090 환경에서 단일 결정 지연 시간은 8밀리초(ms), 애플 M5 프로에서는 30ms 수준으로 나타났다. 산업용 임베디드 보드인 엔비디아 젯슨(Jetson) 제품군에서도 AGX Thor가 16ms, AGX Orin이 26ms, 초소형 Orin Nano가 50ms를 기록했다. 이는 실시간성 확보가 중요한 공장 자동화나 차량용 감시 장치 등 현장 디바이스에서 지연 시간 병목을 줄이는 실무적 대안이 될 수 있음을 시사한다.
자체 벤치마크 결과와 독립 검증의 필요성
리퀴드 AI는 d1-3B가 허깅페이스의 결정 지표 벤치마크인 ‘Decision Index v0.2.1’ 공개 분할 평가에서 48.57점을 기록했다고 발표했다. 사측은 이 결과가 10B 이하 파라미터 제품군 중 최고 수준이며, 약 12배 더 큰 35B 규모의 Decider 35B-A3B(47.11점)와 대등하거나 이를 웃도는 수치라고 설명했다. 또한 11개 공개 이미지 벤치마크에서 베이스 비전 언어모델과 대등한 74.1점을 유지했다고 덧붙였다.
하지만 이러한 성능 지표는 리퀴드 AI가 자체적으로 산출한 결과이므로, 독립적인 제3자 평가나 다양한 실무 데이터셋을 통한 교차 검증이 아직 축적되지 않았다는 점을 유의해야 한다. 벤치마크의 특정 문항 구성이나 정량 평가 환경에 맞춰 최적화되었을 가능성을 배제할 수 없으므로, 프로덕션 도입을 검토하는 팀은 자체 도메인 작업에서의 정확도를 사전에 엄밀히 비교 분석해야 한다.
실험적 체크포인트의 한계와 실무 적용 시 고려 사항
Open d1을 시스템에 도입하기 전에는 명확한 물리적·기능적 제약 사항을 파악해야 한다. 우선 두 모델 모두 자연어 문장을 자유롭게 이어 작성하는 대화 생성 용도로는 사용할 수 없다. 또한 복합 모달리티를 지원하는 d1-omni-600M은 공식 문서상 여전히 '실험적 체크포인트'로 분류되어 있어 안정성 검증이 더 필요하다.
세부 입력 사양에서도 제약이 명확하다. d1-omni-600M의 오디오 기능은 영어 화자와 어시스턴트 간의 대화 데이터로만 한정 학습되었으며, 음성 파일 입력 길이도 최대 30초로 제한된다. 이미지와 텍스트를 동시에 주입할 때 텍스트 상태 및 질문 길이가 896토큰으로 축소 처리되는 점 역시 긴 문맥 판단 작업에는 취약 요소다. 따라서 실무진은 이 모델들을 범용 분석 도구가 아니라 저지연이 요구되는 1차 필터링 및 엣지 경량 분류 파이프라인으로 한정해 배치하는 설계 전략이 필요하다.
출처
Hugging Face의 원출처와 본문에 표시한 참고자료를 바탕으로 한국어로 재구성했습니다. ‘ARCH.B 분석’은 자료를 읽고 덧붙인 편집 해석입니다.
Multimodal open d1 decision models for the edge (새 창)
