AI 위임의 한계선은 "AI가 못 한다"의 문제가 아니다. "사람이 해야 한다"의 문제다.
기술 한계를 말하는 게 아니다. 책임, 판단, 맥락의 문제다. 3개월간 AI 비서 시스템을 직접 운영하면서 한 가지를 배웠다. AI에게 넘길 수 있는 작업의 범위는 생각보다 넓다. 그러나 경계를 잘못 설정하면, 잘못된 결과물을 사람이 뒤처리하는 데 원래보다 더 많은 시간을 쓴다.
이 글은 W37 실패담 시리즈의 결론이기도 하다. 실패가 반복된 지점은 거의 예외 없이 "위임해도 되는 것"과 "사람이 해야 하는 것"의 경계를 느슨하게 처리한 곳이었다.
판단이 필요한 작업은 AI에게 맡길 수 있는가
판단은 정보 처리가 아니다. 판단은 가치 선택이다.
"이 파트너십 제안을 받아야 하는가"처럼 선택지 간 가중치를 내가 직접 정해야 하는 작업은 위임 대상이 아니다. AI는 선택지를 정리하고 장단점을 나열할 수 있다. 그러나 최종 결정에 담기는 맥락, 즉 이 사람과 오래 일하고 싶은지, 이 방향이 지금의 우선순위와 맞는지는 내 안에만 있다.
직접 측정 결과, AI가 생성한 장단점 분석 초안을 받아서 내가 결정을 내리는 데 평균 5분이 걸렸다. 반면 AI에게 결정 자체를 맡겼을 때, 그 결과물을 재작업하는 데 평균 40분이 걸렸다. 판단을 위임하면 시간이 줄지 않는다.
책임이 따르는 결정은 누가 해야 하는가
결과에 내 이름이 붙는 모든 것은 사람이 승인해야 한다.
외부에 발송하는 메일, SNS에 발행하는 글, 계약에 관련된 커뮤니케이션. 이것들은 AI가 초안을 쓸 수 있다. 그러나 "보내기"는 내가 누른다. 이 원칙을 운영 초반부터 시스템 설계에 넣지 않으면 나중에 되돌리기 어렵다.
현재 운영하는 시스템에는 에스컬레이션 매트릭스가 있다. 어떤 종류의 행동은 승인 없이 실행하지 않는다는 명시적 규칙이다. 이것을 만드는 데 약 2주가 걸렸고, 이후 6개월간 규칙을 세 차례 수정했다. 가장 흔한 수정 이유는 "이건 내가 직접 봐야 했는데 자동으로 넘어갔다"는 상황이었다.
AI가 놓치는 것은 맥락이다
AI는 지금 이 순간의 맥락을 알 수 없다.
"이 회의를 30분 앞당겨도 괜찮은가"를 AI가 판단하려면, 내가 오늘 어떤 상태인지, 이 사람과의 관계에서 무엇이 중요한지, 지금 진행 중인 다른 협상에 이것이 영향을 주는지를 알아야 한다. 이 중 일부는 시스템에 구조화해 전달할 수 있다. 그러나 전부는 아니다.
맥락 전달 비용이 작업 실행 비용보다 클 때, 직접 하는 게 낫다. 이것이 위임 결정의 실질적 기준이다.
사람이 직접 해야 하는 작업과 위임 가능한 작업
3개월 운영 결과를 기준으로 정리하면 다음과 같다.
사람이 직접 해야 하는 것
- 가치 선택이 포함된 결정 (무엇을 우선할 것인가)
- 결과에 내 서명이 들어가는 외부 발신
- 관계의 뉘앙스가 작동하는 커뮤니케이션 (협상, 피드백, 거절)
- 시스템 규칙 자체의 설계와 수정
- 처음 해보는 유형의 작업 (AI에게 패턴이 없음)
AI에게 위임해도 되는 것
- 반복 패턴이 명확한 정보 수집과 정리
- 초안 생성 (발행 승인은 사람)
- 일정 조율, 리마인드, 기계적 분류
- 이미 한 번 이상 직접 해본 작업의 반복 실행
단순 판단 기준은 하나다. "이 작업의 결과가 잘못됐을 때, 내가 1분 안에 알아챌 수 있는가." 그렇다면 위임할 수 있다. 그렇지 않다면 먼저 관찰 구간이 필요하다.
위임 경계를 설정한다는 것의 의미
경계를 설정하는 것은 AI를 신뢰하지 않는다는 뜻이 아니다. 어떤 종류의 신뢰를 얼마나 부여할지를 명확히 하는 것이다.
W37 시리즈에서 다룬 가장 큰 실패는 시스템이 틀린 줄 몰랐다는 상황이었다. 자동으로 실행된 결과물이 잘못됐는데 아무도 체크하지 않았다. 이 실패의 공통 원인은 위임 경계를 느슨하게 설정한 것이었다. "AI가 잘 할 것 같다"는 느낌으로 맡긴 작업이 문제를 일으켰다. "AI가 잘 했는지 내가 1분 안에 확인할 수 있다"는 구조로 설계한 작업은 실패가 없었다.
1인 AI 시스템을 안정적으로 운영하는 핵심은 자동화의 범위를 늘리는 것이 아니다. 경계를 명확히 하고, 그 경계를 주기적으로 다시 그리는 것이다.