AI를 더하는 것만으로 설명되지 않는 가치
스매싱 매거진에 기고한 비탈리 프리드먼은 AI 기능을 늘리면 사용자가 자연스럽게 만족할 것이라는 기업의 전제를 비판했다. 그의 논지는 AI 전체의 무용론보다 도입 방식에 대한 문제 제기에 가깝다. 익숙한 업무에서 떨어져 나온 별도 도구를 쓰게 하면 기존 시스템 사이를 오가던 사용자에게 이동 경로가 하나 더 생긴다는 설명이다.
글은 조직에 쌓인 데이터 불일치나 상충하는 의사결정이 AI만으로 해결되지는 않는다고 주장한다. 이는 저자의 제품 설계 관점이며, 모든 AI 서비스의 이용률을 측정한 조사 결과로 읽을 수는 없다. 사용자에게 필요한 것은 기술의 존재 자체가 아니라 자신의 과업에서 확인할 수 있는 변화라는 질문을 던진다.
생성 속도 밖에 남는 검토 비용
예를 들어 보고서 초안을 몇 초 안에 만들더라도 담당자가 인용을 다시 찾고 숫자를 원자료와 맞춰야 한다면 전체 업무 시간은 별도로 계산해야 한다. 초안을 만든 시간과 승인 가능한 결과를 얻는 시간을 나누어 측정하면, 생성량이 늘어난 것을 생산성 증가로 오인하는 일을 줄일 수 있다.
검토는 누구에게나 같은 비용이 들지 않는다. 해당 업무를 잘 아는 사람은 오류를 빨리 찾지만, 처음 맡은 사람은 그럴듯한 답을 판단할 기준부터 구해야 한다. 따라서 기능 평가에는 신규 사용자의 수정 경로와 검증 자료 접근도 포함할 필요가 있다. 단순한 만족도 질문만으로는 이 부담을 놓치기 쉽다.
가치 제안은 사용자가 얻는 결과에서 출발한다
닐슨노먼그룹의 파벨 삼소노프도 AI를 제품의 주된 가치로 내세우면 사용자 중심 설계와 시장 적합성을 찾기 어려워진다고 설명한다. 이 해설은 기술을 선택하기 전에 제공할 가치와 사용자 목표를 정의하라고 권한다. AI라는 넓은 표현만으로는 사용자가 무엇에 써야 하는지 스스로 찾아야 하는 부담이 커진다는 것이다.
프리드먼은 반복적이고 소모적인 작업을 덜어 주되 기존의 업무 방식과 사고 모델을 존중하는 기능을 제안했다. 이 둘을 연결하면 제품 소개 역시 어떤 모델을 붙였는지보다 어떤 일을 어느 지점에서 도와주는지 구체적으로 설명해야 한다는 방향이 나온다.
자동화할 부분과 직접 하고 싶은 부분을 구별하다
같은 문서 작업도 자료 정리와 최종 표현 선택은 서로 다른 경험이다. 자료를 정리하는 부담을 줄이는 기능이 유용하더라도, 작성자가 지키고 싶은 문체까지 일괄 바꾸면 효율과 만족도가 갈릴 수 있다. 업무를 작은 단계로 나누고 사용자가 어느 단계의 도움을 원하는지 확인하는 편이 설계 판단에 유용하다.
통제권은 실행 전 확인 버튼 하나에만 있지 않다. 변경 전후를 비교하고 일부만 받아들이거나 원래 방식으로 돌아가는 경로도 포함된다. 자동화가 제안한 선택을 수정하기 어렵다면 사용자는 절약한 시간 대신 결과를 감시하는 부담을 떠안을 수 있다. 이런 복구 비용까지 포함해야 기능의 실제 이익을 평가할 수 있다.
도입의 성공을 업무 단위로 확인할 때
팀이 새 기능을 검토할 때는 특정 과업에서 완료 시간, 수정 횟수, 근거 확인의 어려움, 재사용 의사를 함께 살펴볼 수 있다. AI 버튼 클릭 수는 발견 여부를 보여 주지만 끝까지 유용했는지까지 말해 주지는 않는다. 기존 도구와 같은 과업을 비교해야 어느 단계에서 이득과 부담이 생겼는지 드러난다.
이 글의 강한 제목을 모든 사람이 AI를 원하지 않는다는 결론으로 일반화할 필요는 없다. 더 유용한 해석은 사용자가 원하는 도움의 형태를 기술 공급자의 기대와 분리해 확인하라는 요구다. 실제로 덜어 낸 일이 분명할 때, 사용자는 새 도구의 학습과 검토에 시간을 쓸 이유도 판단할 수 있다. 또한 도입 이후의 지원 문의를 과업별로 분류하면 기능이 해결한 문제와 새로 만든 문제를 함께 볼 수 있다. 결과를 어디에 제출해야 할지 모르거나 기존 자료와 연결되지 않는 문의가 반복된다면 모델의 답변 품질과 별개로 연결 경로를 다시 설계해야 한다. 이런 관찰은 AI라는 이름에 대한 찬반을 실제 제품 개선의 문제로 바꾸어 준다.
출처
Smashing Magazine의 원출처와 본문에 표시한 참고자료를 바탕으로 한국어로 재구성했습니다. ‘ARCH.B 분석’은 자료를 읽고 덧붙인 편집 해석입니다.
No, People Don’t Want More AI In Their Life (새 창)
