에이전트 시스템은 AI가 자율적으로 작업을 수행하고 결과를 다음 단계로 넘기는 구조다. 단순한 AI 챗봇과 다르다. 챗봇은 질문에 답하는 구조지만, 에이전트 시스템은 작업을 계획하고, 도구를 사용하고, 여러 단계를 연결한다. 처음 설계 단계에서 결정하지 않으면 나중에 전체 구조를 다시 설계해야 하는 핵심 결정 사항이 3가지 있다. 이 글은 그 3가지를 구체적으로 설명한다.
에이전트 시스템 설계가 일반 자동화와 다른 점은 무엇인가
일반 자동화는 정해진 입력을 정해진 방식으로 처리한다. 에이전트 시스템은 상황에 따라 판단하고, 필요한 도구를 선택하고, 결과를 다음 에이전트에게 넘긴다.
이 차이 때문에 설계 초기에 결정해야 할 것이 다르다. 일반 자동화에서는 입력과 출력 형식을 정하는 것이 핵심이다. 에이전트 시스템에서는 자율성 범위, 사람의 개입 지점, 에이전트 간 정보 전달 방식을 초기에 결정해야 한다.
이 3가지를 나중에 바꾸면 이미 작동 중인 부분을 건드려야 하고, 수정 비용이 크게 늘어난다. 에이전트 1개일 때 수정 시간이 30분이라면, 에이전트 5개가 연결된 후 같은 항목을 수정할 때 3~5시간이 걸리는 경우가 일반적이다.
결정 1: 에이전트가 어디까지 자율적으로 판단하도록 할 것인가
자율성 범위를 정하지 않으면 에이전트가 예상 밖의 행동을 해도 어디서 멈춰야 하는지 알 수 없다.
자율성 수준은 3가지로 구분할 수 있다.
- 수준 1: 지정된 작업만 실행. 모든 결과를 사람이 검토한다.
- 수준 2: 정해진 조건 범위 안에서 판단 가능. 조건 밖의 상황은 사람에게 에스컬레이션한다.
- 수준 3: 목표만 주고 방법은 에이전트가 결정한다.
처음 에이전트 시스템을 만들 때 수준 2를 기본값으로 설정하는 것이 안전하다. 조건 범위가 명확할수록 에스컬레이션 빈도가 줄어든다.
직접 측정 결과, 자율성 수준 3으로 시작했을 때 첫 2주 안에 예상 밖 행동이 4~6회 발생했다. 수준 2로 조정한 후 0~1회로 줄었다.
결정 2: 사람의 승인이 필요한 작업은 어떤 것인가
모든 작업에 승인을 요구하면 자동화 효과가 없다. 반대로 승인 없이 실행되는 범위가 너무 넓으면 실수 발생 시 복구가 어렵다.
승인 필요 여부를 판단하는 기준은 다음과 같다.
- 외부에 발송되는 결과물인가 (메일, SNS 게시물, 문서 공유)
- 되돌리기 어려운 작업인가 (삭제, 결제, 서명)
- 이해관계자가 여러 명 포함되어 있는가
- 처음 실행하는 작업 유형인가
이 4가지 중 하나라도 해당하면 승인 단계를 설계 초기부터 포함시킨다.
기준을 정하지 않고 운영하다가 뒤늦게 추가하면 기존 흐름 전체를 수정해야 한다. 특히 외부 발송 작업에 사후에 승인 단계를 추가할 경우, 기존에 실행된 작업들의 이력 관리 방식도 함께 바꿔야 하는 경우가 많다.
결정 3: 에이전트 간 정보를 어떻게 전달할 것인가
에이전트가 여러 개 연결되는 구조에서 가장 자주 실패하는 지점이 정보 전달 방식이다. 처음에 결정하지 않으면 에이전트가 늘어날수록 방식이 섞이고, 오류 발생 시 원인 추적이 어려워진다.
정보 전달 방식은 크게 2가지다.
공유 저장소 방식: 에이전트들이 같은 데이터베이스나 파일을 읽고 쓴다. 실시간 순서가 중요하지 않을 때, 에이전트가 3개 이상일 때 적합하다.
직접 전달 방식: 에이전트 A의 출력이 에이전트 B의 입력으로 바로 들어간다. 순서가 중요한 작업, 에이전트 2개 이하일 때 적합하다.
권장 시작점: 에이전트 2개 이하는 직접 전달 방식, 3개 이상이면 공유 저장소 방식을 기본값으로 설정한다.
3가지를 먼저 결정하면 무엇이 달라지는가
설계 초기에 이 3가지를 결정하면 이후 에이전트 추가, 작업 범위 확장, 오류 대응이 모두 기존 구조 안에서 가능하다.
결정하지 않고 시작하면 시스템이 커질수록 변경 비용이 높아진다. 수정이 수정을 낳는 구조가 된다.
이 3가지 결정은 기술 지식 없이도 할 수 있다. 설계 문서 한 장에 세 가지 결정을 기록해두는 것만으로 충분하다. 시스템 운영 중 판단이 필요한 순간마다 이 문서가 기준이 된다.