토스 QA Platform 팀이 주간 배포 파이프라인의 스모크 테스트 유지보수 비용을 낮추기 위해 '토스닥터 V2'를 공개했습니다. 한국어 BDD 시나리오를 바탕으로 LLM과 Appium MCP를 연동해 코드를 자동 생성하고, 테스트 실행 중 장애를 실시간으로 치유하며 실패 원인을 스스로 수정하는 구조를 구축했습니다. 다만 완전 자동화의 위험을 방지하기 위해 검증 단계의 유사 매칭을 제한하고 수동 개입 기준을 명확히 분리했습니다.
비바리퍼블리카(토스)가 공개 글로벌 리더보드 점수와 현업 환경 간의 괴리를 해소하기 위해 자체 LLM 평가 체계 'Toss Benchmark'를 구축했습니다. 평가 언어와 추론(Reasoning) 설정에 따른 극심한 순위 역전을 검증하고, 지시 준수 및 도메인 지식 지표를 바탕으로 사내 모델 서빙 기준을 정립했습니다.
여기어때 유저혜택개발팀 엔지니어가 안드레이 카파시의 LLM 위키 패턴을 업무 환경에 맞춰 변형한 뒤 2달간 운영한 기록을 공개했다. 정적 연구 자료용 설계를 목차(MOC) 계층 추가, 원본의 이동·수정 전면 금지, 코드베이스 우선 검증 규칙으로 보완하여 반복되는 장애의 원인을 식별하는 성과를 냈으나, 정리 비용과 수동 수집 의존성이라는 명확한 한계도 확인됐다.
제록스 스타와 매킨토시 이래 수십 년간 지속된 포인트 앤 클릭 인터페이스가 생성형 인공지능과 거대언어모델(LLM)에 의해 '의도 기반 디자인'으로 전환되고 있습니다. 번거로운 10단계 조작 대신 사용자의 고차원적 목표를 포착해 백그라운드에서 실행하는 기술적 변화와 그에 따른 디자인 과제를 짚어봅니다.
메타가 대규모 추천 모델 학습을 겨냥해 12개 커스텀 800Gbps RDMA NIC를 칩 패키지에 내장하고 연산과 통신을 물리적으로 분리한 3세대 AI 가속기 'MTIA 300'의 상세 설계를 공개했다. 통신 부하를 하드웨어로 오프로드해 자원 경합을 해소했으나 연산 집약적 LLM에서는 범용 GPU 대비 한계도 뚜렷하다.
토스증권이 LLM 운영에서 프리픽스 캐시, 출력 제한과 처리 여유를 확인한 사례를 공개했다. 요청 수와 평균 지연만으로는 보이지 않는 문제를 토큰 지표와 개별 로그로 추적하는 방법이다.
