챗봇과 에이전트, 무엇이 다른가
"AI 에이전트"라는 말이 어디서나 들린다. 챗GPT 같은 챗봇은 이미 써봤는데, 에이전트는 또 다른 무언가인가 싶은 사람도 있을 것이다. 실제로 다르다. 그 차이는 생각보다 근본적이다.
한 줄로 정리하면 이렇다. 챗봇은 대답한다. 에이전트는 행동한다.
챗봇에게 "이번 주 미팅 일정을 정리해줘"라고 하면, 정리된 텍스트를 돌려준다. 그 텍스트를 보고 당신이 직접 캘린더를 열고, 참석자에게 메일을 보내야 한다.
에이전트에게 같은 요청을 하면, 캘린더를 확인하고, 일정을 정리하고, 참석자에게 메일을 보내고, 슬랙 채널에 공지까지 처리한다. 당신은 요청 한 번으로 끝난다.
이 차이가 하루에 열 번, 스무 번씩 반복되면 어떻게 될지 생각해보면 된다.
에이전트가 행동할 수 있는 이유
AI 에이전트는 더 똑똑한 챗봇이 아니다. 구조가 다르다.
챗봇은 입력을 받고 출력을 낸다. 그게 전부다. 에이전트는 여기에 두 가지가 추가된다. 도구(tools)와 루프(loop)다.
도구는 에이전트가 실제 시스템에 접근할 수 있게 해주는 연결이다. 이메일 서버, 캘린더 API, 파일 시스템, 웹 브라우저, 데이터베이스가 모두 도구가 될 수 있다. 에이전트는 도구를 호출해서 실제 세계에 영향을 미친다. 텍스트를 출력하는 게 아니라, 캘린더에 이벤트를 만들고, 파일을 저장하고, 메일을 발송한다.
루프는 에이전트가 결과를 보고 다음 행동을 스스로 결정할 수 있다는 뜻이다. 챗봇은 한 번 답하면 끝이다. 에이전트는 행동하고, 결과를 확인하고, 다음 단계를 판단하는 과정을 목표가 완료될 때까지 반복한다.
이 두 가지가 합쳐지면, 사람이 개입하지 않아도 여러 단계로 이루어진 작업을 처음부터 끝까지 처리할 수 있다.
예를 들어 "이번 달 지출 내역을 정리해서 보고서로 만들어줘"라는 요청을 받으면, 에이전트는 이렇게 움직인다. 지출 데이터를 먼저 찾는다. 스프레드시트일 수도 있고, 카드사 API일 수도 있다. 데이터를 읽고, 분류하고, 계산한다. 결과를 문서로 작성하고, 지정된 폴더에 저장하고, 필요하면 이메일로 전송한다. 하나의 지시로 끝난다.
실제 업무에서 비교해보면
같은 요청을 챗봇과 에이전트에게 각각 넣으면 어떻게 달라지는지 항목별로 본다.
이메일 처리 챗봇은 답장 초안을 텍스트로 준다. 복사해서 메일 앱에 붙여넣고 직접 보내야 한다. 에이전트는 받은 메일을 읽고, 맥락에 맞는 답장을 작성하고, 발송까지 처리한다. 관련 내용이 있다면 캘린더에도 등록한다.
리서치 챗봇은 학습 데이터 안에서 아는 내용을 답한다. 오늘 발표된 정보는 없다. 에이전트는 웹을 직접 탐색하고, 관련 페이지를 읽고, 원하는 형식으로 정리한다. 어제 나온 보도자료도 수집할 수 있다.
반복 작업 챗봇은 매번 새로 시작한다. 어제 부탁한 작업을 오늘 또 요청해야 한다. 에이전트는 스케줄을 잡으면 지정한 시간마다 자동으로 실행한다. 매일 아침 주요 지표를 정리해서 슬랙으로 보내는 일도 설정해두면 된다.
파일 처리 챗봇은 파일 내용을 직접 붙여넣어야 읽을 수 있다. 파일 시스템에 접근하지 못한다. 에이전트는 폴더를 탐색하고, 파일을 열고, 가공하고, 결과를 새로 저장한다. 수십 개 파일을 일괄 처리하는 것도 가능하다.
에이전트가 아직 못 하는 것
에이전트가 전부 할 수 있다는 인상을 주기 싫다. 실제로는 명확한 한계가 있다.
첫째, 연결된 도구 밖의 일은 못 한다. 에이전트가 접근할 수 있는 시스템이 없으면 행동도 없다. 외부에 API를 열어두지 않은 사내 시스템이라면, 에이전트는 거기서 아무것도 할 수 없다.
둘째, 최종 판단은 사람의 몫이다. 계약서 분석, 데이터 정리, 초안 작성은 에이전트가 처리한다. 그 계약서에 서명해야 하는지, 어떤 전략을 선택해야 하는지는 사람이 결정해야 한다.
셋째, 에이전트도 실수한다. 도구 호출이 실패하거나, 데이터를 잘못 해석하거나, 예상치 못한 상황에서 멈추기도 한다. 초기에는 에이전트가 처리한 결과를 사람이 확인하는 구조로 운영하는 게 안전하다. 자동화 범위는 신뢰가 쌓인 만큼 늘려가면 된다.
어디서 시작하면 되나
거창한 준비 없이 시작할 수 있다. 지금 반복적으로 하는 작업 하나를 골라보면 된다.
매일 같은 형식으로 보고서를 만드는 일, 비슷한 내용의 메일에 반복해서 답하는 일, 주기적으로 특정 데이터를 정리하는 일. 이런 작업이 에이전트가 가장 먼저, 가장 잘 처리하는 유형이다. 반복이 있고, 과정이 정해져 있고, 결과물의 형식이 일정한 것.
챗봇을 이미 쓰고 있다면 그것으로 출발점이 된다. 챗봇이 텍스트로 뭔가를 만들어줄 때 "이걸 직접 실행해줬으면"이라는 생각이 드는 순간, 그게 에이전트가 필요한 지점이다.
챗봇은 생각을 보조한다. 에이전트는 행동을 대신한다. 반복 업무를 줄이고 싶다면 에이전트 방향으로 생각을 이동할 때다.