토스, 모델 신청부터 호출·도구 권한·용량 관리까지 잇는 AI 플랫폼 공개
토스 AI Platform 팀이 프로젝트 단위의 모델 사용 신청과 실제 요청 제어를 연결한 구축 사례를 소개했다. 모델 호출과 사내 도구 실행, 누적 예산과 분당 처리 용량을 구분하고, 처리 중인 요청의 토큰을 먼저 예약하는 방식으로 공통 운영 기능을 플랫폼에 모았다.
“MCP” 검색 결과검색 초기화4편
여기어때, 사내 RAG에 검색·답변 평가와 MCP 운영 체계 구축
여기어때가 사내 문서 검색을 랭퓨즈로 관측하고 검색 지표와 LLM 채점을 나눠 평가한 사례를 공개했다. MCP 명세와 문서 식별 방식도 개선했다. 내부 평가 결과를 일반 성능으로 확대하지 않고, 변경을 판단할 근거를 만드는 과정에 주목할 만하다.
여기어때, AI 설계와 규칙 기반 렌더링을 나눈 ERD 도구 제작
여기어때 광고플랫폼개발팀이 AI에 ERD 전체를 맡기는 대신 설계 대화와 도구의 명명·타입·배치 처리를 분리했다. MCP 편집 경로와 오류 응답도 다듬었다. 내부 실험에서는 호출 실패가 줄었지만 작은 모델의 명명 오류가 남아 검토의 필요성을 보여준다.
내용만 맞으면 끝일까… MCP 에이전트의 출처 왜곡 잡는 검증 계층 등장
멀티버스 컴퓨팅 연구팀이 모델 컨텍스트 프로토콜(MCP) 기반 LLM 에이전트의 '출처 교차 혼동' 문제를 해결하기 위한 사후 사실성 검증 프레임워크 '프로비넌스가드(ProvenanceGuard)'를 공개했습니다. 이 기술은 에이전트 재학습 없이도 생성된 답변의 세부 주장을 개별 도구 출력과 대조해 잘못된 인용을 차단합니다.
