AI 에이전트를 도입할 때 가장 많이 받는 질문이 있다. "에이전트가 잘못된 행동을 하면 어떻게 막나." 이 질문에 대한 답은 기술이 아니라 구조에 있다. 에이전트가 특정 행동을 할 때 사람의 확인을 강제하는 승인 게이트가 그 구조다.
승인 게이트란 무엇인가
승인 게이트는 에이전트가 민감한 행동을 실행하기 전에 사람의 승인을 요청하고, 승인이 올 때까지 대기하는 체크포인트다. 에이전트는 행동을 계획하지만, 실행은 사람이 허가한 뒤에만 이루어진다.
예를 들어, Jurin은 SNS 게시물을 발행하거나, 이메일을 외부로 발송하거나, 데이터를 삭제하려 할 때 먼저 승인 요청을 보낸다. 승인하면 에이전트가 실행하고, 거절하면 행동을 취소하고 이유를 기록한다.
어떤 행동에 승인 게이트를 걸어야 하는가
모든 행동에 승인을 요구하면 자동화의 의미가 없다. 다음 기준으로 구분한다.
승인 불필요 (자동 처리)
- 정보 조회, 요약, 초안 작성
- 내부 데이터베이스 읽기
- 내부 알림 전송
승인 필요 (게이트 통과 후 실행)
- 외부 채널 발송 (이메일, SNS, Slack 외부)
- 삭제 및 되돌릴 수 없는 변경
- 금액이나 결제와 관련된 행동
- 3개 이상의 작업을 연쇄 실행하는 경우
기준은 하나다. 실행 후 되돌리기 어려운가, 외부에 노출되는가. 이 두 조건 중 하나라도 해당하면 승인 게이트를 건다.
승인 게이트는 어떻게 구현하는가
승인 게이트는 기술적으로 복잡하지 않다. 에이전트가 행동을 계획하면, 행동 내용과 이유를 포함한 승인 요청을 사람에게 보낸다. 사람이 응답하기 전까지 에이전트는 해당 작업을 실행하지 않는다.
Jurin은 이 흐름을 request_approval 도구로 구현했다. 에이전트가 이 도구를 호출하면 텔레그램으로 알림이 오고, 응답에 따라 후속 작업이 실행되거나 중단된다.
한 달 운영 결과, 승인 게이트가 개입한 횟수는 주당 평균 3회~5회였다. 에이전트가 시도한 총 행동 대비 약 12%가 승인을 요청했고, 나머지 88%는 자동으로 처리됐다.
왜 모든 것을 자동화하지 않는가
자동화의 목적은 판단을 없애는 것이 아니라 판단할 가치가 있는 것에만 집중하게 하는 것이다. 에이전트가 처리할 수 있는 반복 작업은 자동화하고, 맥락과 판단이 필요한 순간에만 사람이 개입한다.
승인 게이트 없이 에이전트가 모든 것을 처리하면, 실수가 외부로 나간 뒤에야 알게 된다. 시스템을 믿으려면 시스템을 통제할 수 있어야 한다.