모듈형 740M 구조 채택과 오픈 웨이트 공개
구글 딥마인드의 사힐 두아(Sahil Dua)와 엔리케 셰흐터 베라(Henrique Schechter Vera) 연구 엔지니어는 2026년 10월 6일 공식 기술 블로그를 통해 경량 멀티모달 임베딩 모델인 ‘임베딩젬마 2(EmbeddingGemma 2)’를 공개했습니다. 상업적 이용을 허용하는 아파치(Apache) 2.0 라이선스 기반 오픈 웨이트 형태로 허깅페이스(Hugging Face)와 캐글(Kaggle)에 배포되었습니다.
모델의 전체 파라미터는 약 7억 4,000만(740M) 개로 구성되며 모듈형 분리 아키텍처를 취하고 있습니다. 구체적으로는 270M 크기의 텍스트 백본(130M 트랜스포머 및 140M 임베더), 170M 비전 인코더, 300M 오디오 인코더로 나뉩니다. 개발 환경과 기기 메모리 여건에 따라 텍스트 단독(270M), 텍스트와 비전 결합(440M), 텍스트와 오디오 결합(570M), 전체 멀티모달(740M) 중 필요한 가중치만 선별하여 런타임에 적재할 수 있도록 설계되었습니다. 입력 컨텍스트 길이는 1세대 모델 대비 4배 늘어난 8,192(8K) 토큰으로 확장되어 최대 5.5분의 음성, 29장의 정지 이미지, 58개 비디오 프레임 처리를 지원합니다.
코드 검색 지표 개선과 마트료시카 차원 압축 지원
임베딩젬마 2는 텍스트·시각·음성 신호를 768차원의 통합 벡터 공간으로 투영합니다. 대규모 텍스트 임베딩 벤치마크인 MTEB의 코드 검색(Code) 부문에서 기존 68.76점에서 78.68점으로 약 9.92점(약 14%) 향상된 측정치를 기록했습니다. 반면 다국어 일반 텍스트 검색 성능은 v1의 약 61.36점과 대등한 61.15점으로 나타나, 텍스트 전용 환경에서는 코드 영역을 제외한 일반 도메인의 점수 변화가 제한적인 것으로 나타났습니다.
스토리지 및 연산 효율화를 위해 마트료시카 표현 학습(MRL) 기술이 적용되었습니다. 이를 통해 768차원 기본 벡터를 모델 재학습 없이 512차원, 256차원, 128차원으로 절단(truncation)할 수 있으며, 구글 측 측정치에 따르면 벡터 데이터베이스 용량을 최대 6배까지 줄이면서도 정보 손실을 최소화합니다. 메모리 사용량의 경우, 양자화를 적용한 구글 픽셀 11 프로(Pixel 11 Pro) 기기 기준으로 텍스트 전용 구동 시 약 191MB, 전체 멀티모달 구동 시 약 567MB의 활성 RAM을 점유하는 것으로 집계되었습니다.
‘동급 최고’ 주장의 평가 조건과 FP16 정밀도 제약
구글은 본 모델이 10억(1B) 파라미터 미만 멀티모달 임베딩 모델 중 최고 수준(Best-in-class)의 벤치마크 결과를 달성했다고 발표했으나, 이 주장을 검증된 절대적 사실로 받아들이기에는 해석의 여지가 있습니다. 파이토치 한국 사용자 모임(PyTorchKR) 등 독립 커뮤니티의 기술 분석에 따르면, 약 986M에서 1.04B 파라미터 안팎에 위치한 경쟁 모델들이 일부 오디오 세부 벤치마크에서 더 높은 점수를 기록하기도 합니다. 즉, 매개변수 상한선을 정확히 740M 수준으로 제한하느냐, 1B 경계 전체로 확장하느냐에 따라 최고 성능이라는 타이틀의 타당성이 달라질 수 있습니다.
실무 엔지니어링 단계에서 반드시 주의해야 할 기술적 제약도 확인됩니다. 배포 문서에 따르면 반정밀도(FP16) 환경에서 연산 시 결측치(NaN)가 발생하거나 성능 저하가 초래되는 문제가 공식적으로 명시되어 있습니다. 이에 따라 개발 환경에서는 FP16 대신 BF16(Bfloat16)이나 FP32를 채택해야 합니다. 이는 구형 GPU나 BF16 명령어를 지원하지 않는 일부 엣지 디바이스에서는 연산 지연이나 메모리 사용량 증가를 감수해야 함을 의미합니다.
Gemma 4 생태계 연계가 엣지 파이프라인에 미치는 실무 영향
임베딩젬마 2의 구조적 가치는 단순한 임베딩 생성기를 넘어 Gemma 4 디코더 아키텍처 및 토크나이저를 공유한다는 점에 있습니다. 온디바이스 검색 증강 생성(RAG) 시스템을 구축할 때 별도의 토크나이저와 이기종 모델 가중치를 중복 적재하지 않고 임베더와 생성 모델을 파이프라인 형태로 긴밀하게 통합할 수 있어 기기 상의 오버헤드를 낮추는 효과를 냅니다.
특히 엣지 디바이스 환경에서 멀티모달 검색을 구현하려는 실무진에게는 모듈형 메모리 적재 구조가 유용한 선택지를 제공합니다. 카메라나 마이크 입력을 사용하지 않는 텍스트 기반 검색 작업에는 270M 백본만 적재해 200MB 미만의 메모리로 구동하고, 미디어 검색이 필요할 때만 인코더를 동적으로 호출하는 아키텍처 설계가 가능해집니다. 다만 오디오 인코더(300M)가 텍스트 백본보다 큰 비중을 차지하므로, 음성 기반 임베딩 파이프라인 구성 시에는 타깃 디바이스의 가용 RAM 한계를 사전에 면밀히 측정해야 합니다.
플랫폼 배포 로드맵과 서버 환경 검증 과제
현재 임베딩젬마 2는 모바일 환경 데모인 AI Edge Gallery와 맥(Mac) 환경용 AI Edge Foresight 쇼케이스를 통해 기능 검증을 지원하고 있습니다. 그러나 상용 모바일 애플리케이션의 핵심 배포 경로인 안드로이드 머신러닝 킷(ML Kit) 탑재와 엔터프라이즈 환경을 위한 제미나이 엔터프라이즈 에이전트 플랫폼 모델 가든(Model Garden) 연동은 공식 발표문 기준으로 '수 주 내 출시 예정' 상태에 머물러 있습니다. 구체적인 배포 빌드 버전이나 디바이스별 NPU 하드웨어 가속 프로파일은 아직 확정 공개되지 않았습니다.
또한 구글이 제시한 메모리 점유 수치는 픽셀 11 프로 기준의 온디바이스 프로파일에 집중되어 있어, 엔터프라이즈 서버 인프라에서 대규모 멀티모달 인덱싱을 수행할 때의 처리량(Throughput)이나 분산 인덱싱 레이턴시에 대한 독립적 벤치마크는 추가 확인이 필요합니다. 클라우드 및 서버 환경에 도입하려는 개발팀은 정식 상용 플랫폼 업데이트 일정과 대규모 배치 처리 비용 지표를 모니터링하며 점진적 테스트를 진행할 필요가 있습니다.
출처
Google Blog의 원출처와 본문에 표시한 참고자료를 바탕으로 한국어로 재구성했습니다. ‘ARCH.B 분석’은 자료를 읽고 덧붙인 편집 해석입니다.
EmbeddingGemma 2: an open, lightweight multimodal embedding model (새 창)
