표준 아랍어 한계 넘는 현지 구어체 특화 모델 발표
아랍에미리트(UAE) 아부다비 첨단기술연구위원회(ATRC) 산하 응용연구기관 TII(Technology Innovation Institute)는 에미라티 아랍어 방언과 지역 문화적 맥락을 반영한 대규모 언어 모델 'Falcon-Emirati-7B'를 공식 공개했습니다. 기존 아랍어 거대언어모델(LLM) 대다수는 뉴스 보도나 관공서 문서에서 쓰이는 현대 표준 아랍어(MSA) 위주로 학습되어, 일상 대화나 지역 고유의 은유, 전통 구문 등 실제 구어 환경에서 괴리를 보였습니다.
이번 모델은 TII의 아랍어 기반 모델인 Falcon-H1-Arabic 7B를 미세조정하여 구축되었습니다. 해당 기반 모델은 트랜스포머(Transformer) 어텐션 메커니즘과 상태 공간 모델(Mamba, SSM)이 단일 블록 내에서 병렬로 구동되는 하이브리드 아키텍처를 채택하고 있습니다. TII는 언어 모델과 함께 6개 언어를 지원하는 16억 파라미터(1.6B) 규모 음성인식 모델 'Falcon-ASR', 2억 7,000만 파라미터(270M) 경량 광학문자인식 모델 'Falcon-OCR-Arabic'을 패키지로 함께 발표했습니다.
규칙 기반 합성 데이터와 3단계 데이터 파이프라인 구축
에미라티 아랍어처럼 서면 자료가 상대적으로 부족한 구어체 언어 자원을 보강하기 위해, TII 연구진은 정교한 3단계 데이터 파이프라인을 구축했습니다. 첫 단계에서는 UAE 현지 웹사이트와 온라인 커뮤니티 포럼을 크롤링하여 번역 투가 섞이지 않은 순수 에미라티 구어 텍스트를 수집했습니다.
두 번째 단계에서는 UAE의 전통 예절, 역사, 관습을 다룬 현대 표준 아랍어 자료를 결합해 언어 모델이 문화적 배경 지식을 학습하도록 유도했습니다. 마지막으로 구어체 코퍼스의 절대적 부족 문제를 극복하고자 전문 어휘 사전과 문법 규칙 제약(Guardrails)을 적용한 합성 대화 데이터(Synthetic Data)를 대량 생성하여 파인튜닝에 투입했습니다.
벤치마크 평가 결과와 방언 충실도 개선 폭
TII 발표 자료에 따르면 Falcon-Emirati-7B는 현지 원어민이 구성한 방언 평가 데이터셋 Alyah(1,173문항) 객관식 벤치마크에서 84.83%의 정확도를 기록했습니다. 이는 TII가 비교군으로 설정한 타 오픈소스 다국어 및 아랍어 인스트럭션 모델 대비 가장 높은 수치입니다. 문화적 맥락을 평가하는 'ArabCulture-Dialogue UAE' 283개 시나리오 평가에서도 85.57%를 기록하여 ALLaM-7B(83.39%), Jais-2-8B(73.79%), Fanar-2-27B(71.50%)를 앞섰습니다.
주목할 부분은 개방형 질의 응답 시 방언을 얼마나 지속해서 유지하는지를 측정한 방언 충실도(Dialect Fidelity) 지표입니다. 상용 모델인 Gemini 3.7 Flash를 판정관으로 활용한 평가에서 Falcon-Emirati-7B는 0.52를 기록했습니다. 비교 대상이었던 ALLaM(0.05), Gemma-3-27B-it(0.03), Jais-2-8B-Chat(0.02) 등 주요 모델들이 구어체 질문을 받았을 때 표준 아랍어로 회신하는 현상이 두드러졌던 것과 비교하면 뚜렷한 격차를 나타냈습니다.
수치로 드러난 한계와 서비스 도입 시 검증 과제
TII는 모델이 지역 문화와 구어를 완성도 높게 체현한다고 설명하지만, 공개된 평가 지표를 분석해 보면 실무 도입 시 감안해야 할 취약점이 분명히 존재합니다. 방언 충실도 점수 0.52는 기존 모델 대비 크게 앞선 성과임에도 불구하고, 1.0 만점 기준에서 생성 결과물의 절반가량은 여전히 표준 아랍어와 섞이거나 방언 유지에 실패하고 있음을 방증합니다.
세부 영역별 편차도 두드러집니다. 나바티 시(Nabati poetry)나 고유 문학 표현에서는 경쟁 모델 대비 높은 승률을 보였으나, 표준어와 어휘가 상당 부분 겹치는 '일상 인사 및 기본 표현' 카테고리에서는 Jais-2-8B-Chat(0.54)보다 낮은 0.46을 기록하거나 ALLaM-7B(0.50)와 비슷한 수준에 머물렀습니다. 또한 Alyah 벤치마크 자체가 TII 주도로 제작되었고 평가 기준 역시 특정 상용 LLM에 의존하고 있어 제3자 검증이 축적되기 전까지는 고위험 업무나 정밀 서비스에 곧바로 투입하기보다 파일럿 테스트를 통한 결과 검증이 선행되어야 합니다.
배포 조건과 중동 소버린 AI 생태계에 미치는 영향
Falcon-Emirati-7B의 출시는 중동 국가들이 추진하는 소버린 AI(Sovereign AI) 전략이 표준 언어 기반 거대 모델을 넘어 실제 현지 일상에 밀착한 구어체 엔진으로 세분화되고 있음을 보여줍니다. 고객센터 챗봇, 공공 민원 자동화, 음성 대화형 서비스 등 실제 대민 창구에서는 표준 아랍어보다 현지 방언 구사 능력이 서비스 만족도를 결정짓는 핵심 요소이기 때문입니다.
다만 실무 도입을 검토하는 기업이라면 운영 환경의 제약을 점검해야 합니다. 현재는 Falcon Chat 웹 플랫폼을 통한 데모 인터페이스가 제공되고 있으나, 로컬 인프라 구동을 위한 모델 가중치 파일의 완전한 다운로드 여부와 상업적 이용을 포괄하는 세부 라이선스 조건은 발표 시점에서 확인이 더 필요합니다. 기업 전용 엔드포인트나 종량제 API 가격 정책 역시 공개되지 않은 만큼, 인프라 비용과 보안 요건을 고려한 체계적인 기술 검토가 권장됩니다.
출처
Hugging Face의 원출처와 본문에 표시한 참고자료를 바탕으로 한국어로 재구성했습니다. ‘ARCH.B 분석’은 자료를 읽고 덧붙인 편집 해석입니다.
Falcon-Emirati: When an LLM Learns the Dialect, the Culture, and the Nuance (새 창)
