유지보수 담당자의 합류와 장기 지원 계획
허깅페이스는 9월 22일 oMLX를 만든 Jun Kim이 팀에 합류한다고 발표했다. 회사는 부업으로 개발하던 프로젝트를 전담 유지보수와 재정적 지원이 있는 형태로 발전시켜 장기적인 개발을 돕겠다고 설명했다. oMLX는 Apache 2.0 라이선스를 유지하고 Jun이 기존처럼 프로젝트를 이끈다고 명시했다. 발표에는 인수 가격이나 투자 금액, 개발 인력의 숫자는 없다. 창시자의 합류와 프로젝트 지원에 관한 회사의 설명을 별도의 기업 인수 거래로 바꾸지 않았다. 이번 소식의 구체적인 변화는 로컬 AI 도구를 만드는 담당자와 그 유지보수 기반을 허깅페이스의 개발 지원에 연결한 데 있다.
MLX 기반 모델을 서비스하는 별도의 서버
현재 공식 저장소는 oMLX를 애플 실리콘의 로컬 추론 서버로 설명한다. macOS 메뉴 막대에서 관리하고 여러 요청을 묶어 처리하며 RAM과 SSD를 나눠 캐시하는 기능을 제공한다. 문서의 소스 실행 조건에는 macOS 15 이상, Python 3.11~3.13과 애플 실리콘이 적혀 있다. 이 조건은 현재 저장소 안내이며 합류 발표 당일 새로 추가한 기능 목록이라는 뜻은 아니다. 기반 프레임워크인 MLX와 모델 실행 라이브러리, 요청을 받는 서버는 각각 다른 역할을 한다. oMLX의 서버 기능이 생겼다고 MLX 자체나 모든 모델이 같은 앱으로 통합됐다는 설명은 맞지 않는다.
통합 메모리는 계산의 배치를 돕는 구조
애플의 MLX 공식 문서는 CPU와 GPU가 같은 메모리 풀에 직접 접근하는 애플 실리콘 구조를 설명한다. 배열을 특정 장치로 옮기는 대신 연산을 실행할 장치를 선택할 수 있고, 앞선 결과에 의존하는 연산은 실행 순서를 관리한다. 로컬 모델을 구성하는 라이브러리들이 이 구조를 활용하는 기술적 배경이다. 그러나 같은 메모리를 쓴다는 사실만으로 크기가 다른 모든 모델이 노트북에 들어가거나 어떤 계산도 동시에 실행할 수 있는 것은 아니다. 장치의 용량과 연산 사이의 의존성은 그대로 남는다. 문서의 특정 배열 연산 예제를 모델 서버 전체의 속도 측정으로 적용하지 않았다.
캐시와 동시 요청은 서로 다른 부담을 줄인다
oMLX의 저장소는 자주 사용하는 캐시 블록을 RAM에 두고 나머지를 SSD에 저장했다가 같은 입력 앞부분을 쓰는 요청에서 복원하는 방식을 안내한다. 이전 계산을 다시 사용하는 일과 요청을 계속 묶어 처리하는 일은 각각 다른 비용을 다룬다. 캐시가 유용하려면 일치하는 입력이 있어야 하고 SSD에서 정보를 복원하는 경로도 필요하다. 동시 요청 기능은 여러 사용 경로를 한 서버에 연결할 수 있게 하지만 요청이 많아져도 지연이 없다는 보장은 아니다. 모델 실행의 기능 설명과 실제 자신의 입력·메모리·저장장치에서 얻는 성능은 구분해서 확인할 항목이다.
새 모델 구현을 여러 엔진에서 활용하려는 목표
허깅페이스는 Transformers의 모델 정의에서 여러 엔진이 사용할 수 있는 MLX 참조 구현으로 전환하는 과정을 개선하는 데 집중하겠다고 밝혔다. 각 엔진은 자신만의 기능에 집중하고 공통 구현은 기반 라이브러리에 기여하는 방향이다. 발표는 mlx-lm과 mlx-vlm 등 기존 의존 프로젝트의 작업을 바탕으로 새 아이디어를 시험하겠다는 목표를 제시한다. 모든 Transformers 모델이 지금 자동으로 MLX에서 실행된다는 완료 선언은 아니다. 새 구조의 지원 시점과 실제 구현은 프로젝트별 개발 결과에서 확인할 사항이다. 창시자의 합류가 그 과정을 지원할 기반을 강화한다는 회사의 기대와 현재의 호환 목록을 나눠 읽어야 한다.
공개 코드의 유지와 모델 이용 조건의 차이
공식 저장소에서도 Apache 2.0 표시를 확인할 수 있다. 이는 서버 코드의 라이선스에 관한 정보이며 서버로 불러오는 모든 모델 가중치가 같은 조건이라는 의미는 아니다. 실행 환경을 로컬에 구성하는 방식과 사용하는 모델·클라이언트의 조건도 별도로 연결된다. 이번 발표는 유지보수와 협업의 방향을 설명하지만 모든 기능의 지원 일정이나 모든 모델의 응답 품질을 보장하지 않는다. 평가할 변화는 실제로 새 모델 지원과 기반 라이브러리 기여가 이어지는지, 서버가 자신의 요청을 안정적으로 처리하는지다. 장기 개발 지원이라는 회사의 계획을 구체적인 구현과 릴리스에서 확인할 수 있을 때 합류의 효과도 더 분명해진다.
출처
Hugging Face의 원출처와 본문에 표시한 참고자료를 바탕으로 한국어로 재구성했습니다. ‘ARCH.B 분석’은 자료를 읽고 덧붙인 편집 해석입니다.
Jun Kim, oMLX creator and maintainer, joins Hugging Face to support the MLX community (새 창)
