IBM Granite 팀은 10월 15일 대화·판단·위험 탐지·음성 전사를 하나의 접점에 묶은 Switch 4.1을 소개했다. 11월 2일 검토한 동일 저장소의 현재 모델 카드는 4.1.1로 갱신돼 Decision 가중치와 다국어 음성 입력의 변경을 설명한다. 출시 소개와 현재 카드의 기능을 같은 버전처럼 섞지 않아야 한다. 8B·30B 구성과 음성이 없는 preview 묶음도 구별된다.
어댑터를 바꾸되 공통 맥락 계산을 재사용
Switch는 입력에 넣는 제어 토큰으로 필요한 어댑터를 활성화한다. Activated LoRA라는 방식은 기본 모델이 만든 KV 캐시, 즉 앞선 내용을 계산해 둔 정보를 후속 작업에 재사용하도록 설계됐다. 공식 저장소는 각 어댑터가 다른 어댑터의 내부 상태가 아닌 기본 모델의 공통 캐시를 본다고 설명한다. 긴 자료를 읽은 뒤 여러 판단을 이어 갈 때 같은 앞부분을 반복 처리하는 부담을 줄이려는 접근이다. 다만 접점 하나로 묶는다는 설명을 모든 계산·메모리 비용이 사라진다는 의미로 읽을 수는 없다. 선택한 구성과 입력 이력, 실행 방식에 따라 실제 자원 사용은 달라진다.
전사를 거쳐 대화 맥락에 넣는 다국어 음성
현재 4.1.1 카드는 470M Granite Speech 5.0 TurboCTC가 영어·프랑스어·독일어·스페인어·포르투갈어·이탈리아어·일본어를 전사한다고 안내한다. 언어는 음성에서 감지하고 전사문에는 문장부호와 대문자를 출력한다. 영어만 지원하고 소문자·무문장부호로만 내놓는다는 이전 설명을 현재 버전의 조건으로 유지할 수 없다.
음성은 여전히 전사문을 만든 뒤 원래 음성 입력 자리에 텍스트를 넣는 연결 방식이다. 음성 인코더와 언어 모델은 공동 학습되지 않았고 학습된 투영 연결도 없다고 명시한다. 음성의 내용 인식과 뒤의 판단은 다른 단계이며, 위 언어 목록에 한국어가 있다고 확장할 근거는 없다.
속도와 정확도 주장은 평가 조건 안에서 보기
판단과 음성의 평가는 같은 성능표가 아니다. 현재 카드는 4.1.1 Decision을 Jev Decision Index v0.3의 정해진 상태·질문·선택지 형식으로 평가했다고 설명한다. 음성은 전사 오류와 처리 속도를 별도로 보아야 한다. 이전 버전의 평가 항목 수나 출력 형식을 새 가중치의 결과로 옮기지 않고 체크포인트와 평가 절차를 함께 기록해야 한다.
잘못 들은 말을 정확한 형식으로 분류할 수도 있다
음성에서 지명이 잘못 전사돼도 뒤의 Decision이 선택지 확률을 정상 형식으로 반환할 수 있다. 출력 형식에 맞았다는 사실은 앞 단계의 인식이 맞았다는 확인이 아니다. 통합 접점이 여러 단계를 숨기더라도 오류가 시작된 위치는 나누어 볼 필요가 있다.
반대로 전사가 맞아도 선택지의 기준이 모호하면 판단이 원하는 결과와 다를 수 있다. 음성 원본과 전사문, 선택한 어댑터와 옵션을 차례로 대조하면 어떤 부분을 바꾸어야 하는지 구체화된다. 이는 공개된 연결 구조에서 도출한 비교이며 이번 기사에서 음성을 실행한 시험은 아니다.
| 단계 | 입력 → 출력 | 확인할 것 |
|---|---|---|
| 음성 인식 | 음성 → 전사문 | 지원 언어·누락·오인식 |
| 대화 | 맥락 → 문장 | 사실·지시의 해석 |
| Decision | 상태·선택지 → 확률 | 기준과 정답의 적합성 |
| Guardian | 내용·위험 기준 → 판정 | 포함된 위험 탐지 범위 |
Switch는 기본 모델의 공통 맥락을 재사용하며 대화·판단·위험 탐지·전사를 연결한다. 현재 4.1.1의 다국어 음성 조건과 출시 당시 구성을 구분하고, 중간 전사문부터 최종 선택까지 각 단계의 정확성을 따로 살펴야 한다.
ARCH.B 의견
Decision은 상태와 질문, 이름을 붙인 선택지를 받아 선택지별 확률을 내는 용도로 설명된다. Guardian은 정해진 기준에 따라 위험 여부를 판정하는 별도 기능이다. 출력 형태를 예측하기 쉬워지면 응용 프로그램이 결과를 읽고 다음 작업을 연결하기 수월해진다. 그러나 모델 카드도 낯선 분야에서 Decision의 확률을 인증된 분류 결과로 취급하지 말라고 안내한다. 기본 Guardian 어댑터가 있다고 해서 사실 확인·사실 수정·정책 가드레일 어댑터까지 모두 들어 있는 것도 아니다. 이 체크포인트에는 그 기능들이 빠져 있다. 출력의 형식을 통제하는 일과 판단 내용의 정확성을 검증하는 일을 나눠야 하는 이유다.
이번 구성의 의미는 거대한 모델 하나에 모든 역할을 맡기는 대신 필요한 기능을 조합하고 개별적으로 바꿀 수 있게 한다는 점이다. 저장소는 어댑터를 선택해 체크포인트를 만들고 Mellea로 출력 처리와 호출을 연결하는 방식을 설명한다. 다만 최신 모델 카드는 Decision의 Mellea 전용 호출 기능과 사용자 어댑터 학습용 SDK를 향후 계획으로 구분한다. 사용자는 제공된 구성과 직접 추가할 기능, 현재 도구가 지원하는 범위를 나눠 볼 필요가 있다. 통합의 가치는 요청 경로를 줄이는 편의와 함께, 각 단계의 입력·출력 계약과 오류가 다음 판단에 미치는 영향을 명확히 관리할 수 있는가에 달려 있다.
연결된 시스템은 마지막 답만 확인해서는 오류가 시작된 위치를 알기 어렵다. 음성 입력을 쓰는 경우 전사문과 선택된 어댑터, 판단 결과를 차례로 대조할 수 있어야 한다. 잘못 들은 문장을 일관된 형식으로 분류해도 결과의 신뢰도가 높아지는 것은 아니기 때문이다. 통합 접점의 편의는 이러한 중간 상태를 숨기는 데서보다, 같은 입력을 여러 기능이 어떻게 다뤘는지 되짚을 수 있을 때 더 유용하다.
