작은 모델에게 맡길 일을 먼저 고르다, 토스와 리퀴드AI의 두 접근
토스는 상품 판별 요청 중 검증 기준을 통과한 구간만 소형 모델에 맡겼다. 리퀴드AI는 텍스트·사진·음성 등 입력과 목적에 맞춰 작은 모델을 특화하는 예제를 공개했다. 두 자료를 함께 읽으면 모델 크기보다 먼저 정할 작업의 범위와 되돌아갈 경로가 보인다.
“리퀴드AI” 검색 결과검색 초기화3편
리퀴드 AI, 온디바이스 에이전트 특화 MoE 모델 'LFM2.5-24B-A2B' 공개
리퀴드 AI가 24B 전체 파라미터와 약 2B 활성 파라미터, 131K 문맥의 LFM2.5-24B-A2B를 공개했다. 활성 연산량과 모델을 담는 저장·메모리 요구는 다르며, 단일 기기의 디코딩 속도와 서버 전체 처리량도 조건을 나눠 비교해야 한다.
리퀴드 AI, 엣지용 제로 출력 토큰 의사결정 모델 Open d1 공개
리퀴드 AI가 텍스트 생성을 배제하고 단일 순방향 연산으로 결정을 내리는 오픈 가중치 모델 Open d1 2종을 공개했다. 엣지 기기에서 수십 밀리초 단위 저지연 연산을 지원하지만, 자체 벤치마크 결과 의존도와 입력 사양 제한 등 실무 적용 시 확인할 과제도 명확하다.
