에이전트의 능력보다 신뢰 조건을 묻다
피그마는 8월 20일 발행한 리더십 뉴스레터 Sightlines 2호에서 에이전트 제품을 설계할 때의 신뢰와 통제 문제를 다뤘다. 시카고의 리더십 대화와 Config에서 나온 의견을 묶어, 에이전트가 유능한 협업 상대가 되면서도 사용자가 행동을 이해할 수 있는 조건을 정리했다. 새로운 에이전트 제품이나 안전성 인증을 발표한 글은 아니다.
뉴스레터는 작업 과정과 출처를 보여 주는 투명성을 먼저 설계하고, 에이전트가 일상 업무를 혼자 수행할 범위와 사람이 계속 확인할 범위를 초기에 합의하라고 제안했다. 민감한 건강 정보는 사람의 관여가 필요한 예로 제시됐다. 신뢰 기준을 통과하면 완벽한 첫 버전을 기다리기보다 실제 사용에서 배우고 개선하라는 방향도 함께 담겼다.
일관된 행동과 사람의 책임을 강조했다
피그마가 인용한 리더들은 에이전트가 무엇을 할 수 있는지보다 시스템이 일관되게 행동할 조건과 규칙을 설계하는 데 주목했다. 실제 실행에서 배워야 한다는 의견에는 테스트와 출시의 엄격함이 함께 따라왔다. 자율성이 높아져도 에이전트가 한 일에 책임지는 사람이 남아 있어야 한다는 논점도 제시됐다.
같은 대화의 배경을 설명한 Config 공식 글은 작은 작업과 확인 단계를 먼저 제공해 신뢰를 쌓고, 익숙한 인터페이스를 유지하는 접근을 소개한다. 사용자가 에이전트의 행동을 보고 승인한 경험을 축적한 뒤 자율성을 넓히는 방식이다. 이는 피그마의 보편적 제품 정책이나 모든 팀에 적용되는 고정 승인 횟수라기보다 행사에서 공유된 설계 경험이다.
근거를 보여 주는 위치가 중요하다
출처를 붙이는 기능은 답변 맨 아래 링크를 모아 두는 것만으로 완성되지 않는다. 사용자가 어떤 판단에 어떤 자료가 쓰였는지 연결해서 볼 수 있어야 잘못된 정보나 오래된 근거를 알아낼 수 있다. 특히 검색 결과를 요약한 뒤 파일이나 업무 상태를 바꾸는 에이전트라면 정보의 근거와 실제 변경 내용을 서로 구분해 보여 주는 것이 도움이 된다.
투명성은 모든 내부 단계를 길게 노출하는 일과도 다르다. 사용자가 결정을 내려야 하는 시점에 필요한 설명을 제공하는 편이 유용하다. 예를 들어 실행 전에 대상과 예상 변경을 확인할 수 있고, 실행 뒤에는 결과와 남은 오류를 볼 수 있다면 사용자는 작업이 진행 중인지 완료됐는지 판단하기 쉽다. 이런 화면은 자동화의 속도만으로 평가하기 어려운 사용 경험이다.
확인 단계는 업무의 결과에 맞춰 정한다
에이전트에 맡길 업무를 정할 때는 기능 이름보다 잘못 실행됐을 때의 결과를 살피는 편이 구체적이다. 같은 문서 작업이라도 내부 초안 작성과 외부에 전달되는 내용의 확정은 사용자가 기대하는 확인 절차가 다를 수 있다. 팀이 이 경계를 미리 정하면 사용자는 어느 단계에 개입할 수 있는지 알고, 개발자는 일관된 흐름을 구현할 수 있다.
단계적으로 신뢰를 넓힌다는 제안도 모든 작업의 확인을 결국 없애야 한다는 뜻으로 읽을 필요는 없다. 반복해 잘 수행하는 작업과 정보가 달라질 때마다 판단이 필요한 작업은 구분된다. 실제 사용에서 어떤 변경을 되돌렸고 어떤 요청이 모호했는지 기록하면, 자동 실행 범위를 넓힐지 설명이나 확인을 보강할지 결정할 근거가 생긴다.
출시 기준과 개선 기준을 함께 남긴다
완벽을 기다리지 말라는 조언의 전제는 신뢰 기준을 먼저 세운다는 것이다. 에이전트가 실패했을 때 사용자가 상태를 이해하고 필요한 조치를 할 수 있는지, 변경의 책임자가 누구인지가 출시 판단에 포함돼야 한다. 기능 성공률만 보고 출시하면 실패한 요청에서의 혼란과 반복적인 수정 비용을 놓칠 수 있다.
이 뉴스레터는 통계 실험으로 특정 설계의 효과를 증명한 자료가 아니라 제품 리더들이 공통으로 제기한 질문을 정리한 글이다. 독자가 가져갈 실무적인 가치는 출처 표시, 실행 경계와 책임을 하나의 제품 흐름에서 점검하는 데 있다. 팀은 대표 작업의 성공·실패·중단 화면을 나란히 검토하고 실제 사용 결과로 기준을 수정하는 방식으로 이 제안을 구체화할 수 있다.
출처
Figma Blog의 원출처와 본문에 표시한 참고자료를 바탕으로 한국어로 재구성했습니다. ‘ARCH.B 분석’은 자료를 읽고 덧붙인 편집 해석입니다.
Sightlines issue no.2: What leaders need to know about building agents (새 창)
