여러 광고 지면과 목표를 함께 학습하는 모델
메타는 10월 13일 Generative Ads Model인 GEM의 2026년 구조를 공개했다. 이름에 생성형이 들어가지만 이번 글의 대상은 광고 문구나 이미지를 만드는 제품이 아니라 광고 추천의 기반 모델이다. Facebook·Instagram·Reels 등에서 따로 최적화하던 학습을 중앙 모델로 묶고 클릭과 전환 목표에 관련된 신호를 함께 학습한다는 설명이다. 데이터가 많은 클릭 과제에서 배운 표현을 상대적으로 데이터가 적은 전환 과제에 전달하는 것이 한 축이다. 중앙 모델이 배운 내용을 실제 광고를 빠르게 평가하는 여러 하위 모델로 옮기는 구조가 전체 시스템을 연결한다.
회사 성과 지표와 개별 광고주의 결과를 구분
메타는 GEM이 광고 지면·목표 전반에서 전환 18.9%, 광고 클릭률 12% 개선을 가져왔다고 보고했다. 원문은 지난 1년의 다른 지면별 개선 수치도 별도로 소개하지만, 이를 이번 한 가지 기술의 효과로 더하거나 개별 광고주의 예상 상승률로 적용할 수는 없다. 공개 글은 각 수치의 표본 크기와 실험 구성, 광고주별 분포를 모두 제시하지 않는다. 따라서 회사 시스템의 성과 보고라는 범위에서 읽을 필요가 있다. 수치의 주체는 GEM과 이를 연결한 광고 시스템이며, 이용자의 모든 광고가 같은 비율로 개선됐다고 설명한 결과가 아니다.
긴 행동 이력과 서로 다른 정보를 함께 처리
Kunlun 논문은 사용자 행동의 시간순 이력과 광고·사용자에 관한 다른 특성을 동시에 처리하는 추천 구조를 다룬다. 큰 모델을 단순히 늘리는 대신 연산 모듈과 자원 배분을 함께 설계해 확장 효율을 높이려는 접근이다. 10월 GEM 글은 실제 운영에서 긴 참여 이력의 맥락을 두 배로 늘렸다고 설명하면서, 인프라가 25배 길이로 확장 가능한 능력도 확보했다고 별도로 밝혔다. 두 숫자는 같은 배포 상태가 아니다. 현재 서비스에 적용된 길이와 향후 규모를 시험·지원할 수 있는 역량을 나눠야 추천 모델의 실제 운영 범위를 이해할 수 있다.
LoopFM은 과거의 표현을 하위 모델의 입력으로
LoopFM 논문은 큰 모델의 중간 표현을 추출·압축하고 과거 이력으로 구조화해 작은 모델에 전달하는 방식을 설명한다. 큰 모델이 내놓은 예측값만 가르치는 지식 증류와 달리, 풍부한 내부 표현을 하위 모델의 입력 특성으로 추가한다는 점이 핵심이다. 논문은 과거의 표현만 사용하므로 서비스 중인 매 순간 큰 기반 모델을 실시간으로 실행할 필요가 없다고 밝힌다. 이렇게 긴 학습 맥락을 전달하는 효과와 광고 성과의 개선 비율은 서로 다른 지표다. 지식 전달이 두 배라는 설명을 클릭률이나 전환이 두 배가 된다는 의미로 옮길 수는 없다.
Solaris는 비싼 계산을 요청의 앞쪽으로 옮긴다
Solaris 논문은 앞으로 요청될 가능성이 높은 사용자·광고 조합을 예상해 표현을 비동기로 미리 계산하는 접근을 제시한다. 실시간 응답 경로에서 큰 모델의 계산을 기다리는 부담을 덜면서 더 최근의 정보를 전달하려는 구조다. 정확한 조합의 표현이 없으면 집계된 표현이나 유사성을 활용하는 보완 단계도 둔다. 여기서 낮추는 것은 지연에 민감한 경로의 부담이다. 사전 계산 자체에 필요한 자원이 없어지는 것은 아니다. 시스템의 가치는 큰 모델을 모든 후보에 즉시 실행하는 대신 계산 시점과 전달 범위를 조정해 실제 추천 모델이 활용하도록 만드는 데 있다.
훈련 효율 두 배와 전체 연산량 네 배는 별개
메타는 12개월 동안 총 훈련 연산량을 네 배로 늘리면서 종단간 훈련 효율을 두 배, MFU 기준 20~25%로 높였다고 설명한다. 8월의 관련 훈련 글은 MFU를 GPU 내부 연산 효율과 대규모 분산 때 유지되는 확장 효율로 나눠 설명했다. 커널·수치 정밀도·병렬화·네트워크·메모리를 함께 조정한 결과다. 따라서 이를 GPU 사용률 전체나 훈련 비용의 단순 절반 절감으로 바꿀 수는 없다. GEM의 확장은 모델 구조, 사전 계산과 지식 전달, 훈련 기반 설비가 맞물린 변화다. 각 단계의 지표를 분리해야 실제 광고 성과와 컴퓨팅 효율을 각각 평가할 수 있다.
출처
Meta Engineering의 원출처와 본문에 표시한 참고자료를 바탕으로 한국어로 재구성했습니다. ‘ARCH.B 분석’은 자료를 읽고 덧붙인 편집 해석입니다.
Meta’s Generative Ads Model (GEM): Scaling the Central Model and Compute Engine for Frontier Ads AI (새 창)
