같은 입력창에 “이 오류를 고쳐줘”라고 적었다. 한쪽은 고치는 방법을 설명했다. 다른 쪽은 파일을 열고, 코드를 바꾸고, 테스트 결과를 읽은 뒤 남은 오류까지 확인했다.

두 흐름은 답변 뒤에서 갈라진다. 앞쪽에서는 사용자가 실제 행동을 이어간다. 뒤쪽에서는 시스템이 도구를 골라 행동한다. 같은 채팅창 안에서도 벌어지는 일이 다르다.

챗봇은 답변에서 끝나고 AI 에이전트는 목표·도구·행동·확인을 반복하는 흐름

그림처럼 챗봇은 답변을 결과로 돌려준다. 에이전트는 목표를 기준으로 도구를 쓰고, 행동 결과를 확인한 뒤 다음 판단으로 돌아간다.

가장 큰 차이는 답변 뒤에 무엇이 이어지느냐다

챗봇의 기본 결과는 대화에 표시되는 답변이다. 질문을 설명하고, 글을 요약하고, 다음에 할 일을 제안한다. 사용자는 답변을 읽은 뒤 실제 행동을 직접 이어간다.

AI 에이전트는 답변에서 멈추지 않는다. 목표를 이루는 데 필요한 도구를 고르고, 결과를 관찰하고, 다음 행동을 정한다. 파일 수정, 명령 실행, 검색, 일정 등록처럼 바깥 상태를 바꾸거나 확인하는 과정이 작업 안에 들어온다.

그렇다고 도구를 한 번 썼다는 이유만으로 모두 에이전트가 되는 것은 아니다. 미리 정한 함수 하나를 호출하고 결과를 보여주는 챗봇도 있다. 반대로 대화창이 없어도 목표를 받아 여러 단계를 판단하고 실행한다면 에이전트처럼 동작한다.

제품 이름이나 화면은 잠시 내려놓고 네 가지를 확인해 보자.

  • 모델이 다음 행동과 도구를 고르는가?
  • 도구 결과를 읽고 계획을 바꾸는가?
  • 목표를 마칠 때까지 행동과 확인을 반복하는가?
  • 멈추거나 사람에게 물어야 할 때를 아는가?

에이전트는 모델 하나가 아니라 실행 구조다

OpenAI의 에이전트 구축 안내는 에이전트의 기본 요소를 모델, 도구, 지시로 설명한다. 실제 제품에서는 여기에 실행 환경이 붙는다. 실행 환경은 모델이 고른 도구를 실제로 호출하고, 결과를 다시 모델에게 보여주며, 반복을 끝낼지 판단하도록 돕는다.

구조를 짧게 나누면 이렇다.

  • 모델은 요청과 현재 결과를 읽고 다음 행동을 고른다.
  • 지시는 목표, 금지 사항, 완료 기준을 정한다.
  • 도구는 검색, 파일 읽기, 코드 실행처럼 바깥과 연결되는 기능이다.
  • 실행 환경은 도구 호출, 결과 전달, 반복 횟수, 승인 절차를 관리한다.

OpenAI Agents SDK의 실행 문서도 에이전트 실행을 반복 과정으로 설명한다. 모델이 최종 답을 내면 끝나고, 다른 에이전트로 넘기거나 도구를 고르면 해당 행동의 결과를 다시 모델에게 보내 다음 판단을 이어간다.

모델이 파일이나 일정표를 직접 만지지는 않는다. 모델은 어떤 도구를 어떤 입력으로 부를지 고른다. 애플리케이션이 그 호출을 실행한 뒤 결과를 돌려준다. Microsoft Agent Framework의 도구 설명은 이 경계를 모델의 함수 요청과 실제 코드 실행으로 나눠 보여준다.

목표를 받고 행동과 관찰을 반복한다

챗봇에게 “로그인 오류를 고치는 순서를 알려줘”라고 물으면 답변 목록을 얻는다. 에이전트에게 “로그인 오류를 고치고 테스트가 통과했는지 확인해줘”라고 맡기면 목표와 완료 조건이 생긴다.

에이전트의 흐름은 대체로 다음처럼 이어진다.

목표를 해석한다.
다음 행동을 고른다.
도구를 실행한다.
결과를 관찰한다.
계속할지, 끝낼지, 사람에게 물을지 정한다.

Anthropic의 신뢰할 수 있는 에이전트 연구는 이 과정을 목표를 향해 계획하고, 행동하고, 결과를 관찰하며, 접근을 바꾸는 반복으로 설명한다. 한 번 답하고 끝내는 대신 결과를 보고 다음 수를 바꾼다.

예를 들어 테스트가 실패하면 같은 수정만 되풀이하지 않아야 한다. 오류 메시지를 읽고 원인을 다시 세우거나, 권한이 필요한 행동 앞에서 멈추거나, 더 진행할 근거가 없으면 사용자에게 묻는다. 행동 수가 많다는 사실보다 관찰 결과를 다음 판단에 반영하는지가 더 중요하다.

완전 자율이어야 에이전트인 것은 아니다

AI 에이전트라는 말을 들으면 사람이 보지 않아도 끝까지 움직이는 프로그램부터 떠올리기 쉽다. 하지만 자율성은 있음과 없음으로만 나뉘지 않는다.

어떤 에이전트는 읽기와 분석을 혼자 이어가고 파일 수정 전에 승인을 받는다. 어떤 에이전트는 로컬 테스트까지 진행하지만 게시, 결제, 외부 전송 앞에서 멈춘다. 사람이 목표와 경계를 정하고 중간 행동을 확인해도 에이전트의 반복 구조는 남아 있다.

OpenAI Agents SDK의 사람 확인 기능은 민감한 도구 호출 앞에서 실행을 멈추고 승인이나 거절을 받은 뒤 같은 작업을 이어가는 방식을 제공한다. 사람 확인은 에이전트가 아니라는 증거가 아니라, 행동 권한을 안전하게 나누는 장치다.

그래서 “자율인가?”보다 “어떤 행동까지 혼자 고르고, 어디서 확인을 받는가?”라고 묻는 편이 제품의 실제 동작을 더 잘 드러낸다.

정해진 순서라면 에이전트가 필요 없을 수 있다

에이전트와 함께 자주 나오는 말이 워크플로다. 워크플로는 작업 순서를 사람이 미리 정해 둔 방식이다. 결제 완료 뒤 영수증을 보내거나, 정해진 항목을 검사해 보고서를 만드는 일처럼 경로가 분명한 작업에 잘 맞는다.

Anthropic의 에이전트 설계 안내는 미리 정한 코드 경로로 모델과 도구를 연결하는 워크플로와, 모델이 과정과 도구 사용을 스스로 정하는 에이전트를 구분한다. 모든 자동화를 에이전트로 만들 필요는 없다는 뜻이다.

다음 조건이라면 먼저 단순한 함수나 워크플로를 살펴보는 편이 낫다.

  • 입력과 출력 형식이 고정돼 있다.
  • 실행 순서와 예외 처리를 미리 적을 수 있다.
  • 같은 입력에는 같은 결과가 중요하다.
  • 모델이 중간 경로를 고를 이유가 적다.

반대로 자료가 매번 달라지고, 중간 결과에 따라 다음 행동을 바꿔야 하며, 정답 경로를 미리 쓰기 어렵다면 에이전트가 도움이 된다. Microsoft Agent Framework 개요도 고정된 업무 절차는 워크플로로, 동적인 판단과 도구 선택이 필요한 일은 에이전트로 나누라고 안내한다.

행동할 수 있을수록 종료 조건이 중요하다

챗봇의 실수는 잘못된 답변으로 끝날 때가 많다. 에이전트의 실수는 파일 변경, 잘못된 전송, 반복 호출로 이어진다. 그래서 에이전트에게는 목표만큼 종료 조건과 권한 경계가 필요하다.

작업을 맡길 때는 다음 네 가지를 함께 정하면 좋다.

  • 완료 조건: 무엇을 확인하면 끝인가?
  • 행동 범위: 읽기, 수정, 실행 중 어디까지 허용하는가?
  • 확인 지점: 삭제, 게시, 전송 전에 멈춰야 하는가?
  • 반복 한도: 같은 실패가 이어지면 언제 질문해야 하는가?

미국 국립표준기술연구소(NIST)의 에이전트 도구 사용 연구도 도구를 쓰는 에이전트의 신뢰성을 높이려면 도구 선택과 권한, 결과 검증을 함께 다뤄야 한다고 설명한다.

외부 자료에 숨은 지시가 행동으로 번지는 위험이 궁금하다면 프롬프트 인젝션은 AI 에이전트를 어떻게 속일까?를 함께 읽어도 좋다.

한 문장으로 정리하면

챗봇은 대화로 답을 준다. AI 에이전트는 제한된 목표를 이루려고 도구로 행동하고 결과를 다시 확인한다.

둘의 경계가 언제나 선명한 것은 아니다. 챗봇도 도구를 쓰고, 에이전트도 대화창에서 시작한다.

확인한 공식·원 자료

아래 자료는 2026년 8월 23일에 확인했다.