AI와 AI 에이전트는 어떻게 다를까: 대답하는 AI, 일하는 AI

기준: Anthropic·OpenAI·Google Cloud 공식 문서. 2026년 9월에 확인했습니다.

AI 에이전트는 완전히 새로운 AI가 아닙니다. 우리가 챗봇으로 쓰는 AI 모델에 도구(검색, 파일 수정, 프로그램 실행 같은 기능)를 쥐여 주고, 생각하고 → 행동하고 → 결과를 확인하는 과정을 일이 끝날 때까지 반복하게 만든 시스템입니다. 챗봇이 "이렇게 하면 돼요"라고 알려 준다면, 에이전트는 그 일을 직접 해 보고 결과를 확인한 뒤 다음 단계를 스스로 정합니다. 이 글에서는 두 개념의 차이, 에이전트가 움직이는 방식, 쓸 때 주의할 점을 차례로 설명합니다.

한눈에 비교

여기서 말하는 "AI"는 대부분 LLM(대규모 언어 모델), 곧 글을 읽고 쓰는 AI 두뇌를 뜻합니다. LLM이 무엇인지 더 알고 싶다면 LLM(대규모 언어 모델)이란 무엇인가를 먼저 읽어 보세요.

일상 비유: 요리책과 요리사

두 개념의 차이는 요리책과 요리사에 빗대면 쉽게 보입니다.

• 요리책(챗봇): "김치찌개는 김치를 볶고, 물을 붓고, 두부를 넣으세요"라고 레시피를 알려 줍니다. 아주 정확할 수 있지만, 직접 불을 켜지는 않습니다.
• 요리사(에이전트): 먼저 냉장고를 열어 무엇이 있는지 봅니다(관찰). 재료에 맞춰 순서를 정하고(계획), 불을 켜서 요리하고(행동), 간을 본 뒤 싱거우면 다시 고칩니다(결과 확인과 반복).

요리사의 머릿속 지식은 요리책과 크게 다르지 않을 수 있습니다. 차이는 손과 발, 곧 도구를 쓸 수 있는지, 그리고 결과를 보고 다시 움직이는지에 있습니다.

비슷한 비유로 내비게이션 안내와 자율주행도 있습니다. 내비게이션은 "우회전하세요"라고 말만 하고 핸들은 사람이 잡습니다. 자율주행은 직접 핸들을 돌리기 때문에 더 편리하지만, 그만큼 안전장치와 사람의 감독이 더 중요합니다. 에이전트도 마찬가지입니다.

회사마다 조금씩 다른 "에이전트"의 정의

"에이전트"라는 말은 아직 한 가지 뜻으로 굳어지지 않았습니다. 주요 회사들의 공식 설명을 나란히 보면 공통점이 보입니다.

세 설명의 공통점은 두 가지입니다. 첫째, 사용자를 대신해 일을 끝낸다는 목표가 있습니다. 둘째, 그 과정에서 다음에 무엇을 할지 AI가 어느 정도 스스로 정한다는 점입니다.

Anthropic은 여기서 한 가지를 더 구분합니다. LLM과 도구가 미리 정해 둔 순서대로 움직이면 "워크플로", LLM이 순서를 스스로 정하면 "에이전트"라고 부릅니다. 예를 들어 "메일을 받으면 요약하고, 요약을 번역해서 저장한다"처럼 순서가 늘 같다면 워크플로에 가깝습니다.

기능이 붙은 챗봇과 에이전트의 구분

챗봇에 기능이 붙었다고 모두 에이전트는 아닙니다. OpenAI의 기준으로는 LLM을 넣었더라도 LLM이 작업 흐름을 직접 이끌지 않는 앱은 에이전트가 아닙니다. 예를 들면 다음과 같습니다.

• 단순한 챗봇
• 한 번 묻고 한 번 답하는 LLM 기능
• 글의 감정을 분류하는 기능

같은 기준으로 보면, 에이전트는 작업이 끝났는지 알아차리고, 필요하면 스스로 행동을 고치고, 실패하면 멈춘 뒤 사용자에게 제어를 돌려줄 수 있어야 합니다.

자율성의 정도로 나누면 세 단계입니다(Google Cloud의 구분).

에이전트를 이루는 세 가지 재료

OpenAI 가이드는 에이전트의 기본 재료를 세 가지로 나눕니다.

1. 모델: 상황을 읽고 판단하는 LLM입니다. 에이전트의 두뇌입니다.
2. 도구: 행동에 쓰는 외부 기능입니다. 개발 용어로는 함수나 API(프로그램끼리 주고받는 창구)라고 부릅니다.
3. 지시문: 어떻게 행동해야 하는지, 무엇은 하면 안 되는지를 적은 명확한 지침입니다.

Google Cloud는 에이전트의 핵심 능력을 추론(정보로 결론 내리기), 행동(메시지 보내기, 데이터 수정 같은 디지털 행동), 관찰(주변 정보 모으기), 계획(목표까지 단계 정하기)으로 정리합니다. 앞의 요리사 비유와 그대로 겹칩니다.

에이전트가 "손발"을 얻는 방법: 도구 사용

AI 모델은 원래 글만 만들어 냅니다. 그런 모델이 날씨를 조회하거나 파일을 고칠 수 있는 것은 도구 사용(tool use, function calling이라고도 합니다) 덕분입니다.

순서는 이렇습니다. 개발자가 "날씨 조회" 같은 도구의 이름과 설명을 AI에게 알려 줍니다. AI는 요청을 보고 도구가 필요한지 스스로 판단하고, 필요하면 "이 도구를 이런 값으로 불러 주세요"라는 정해진 형식의 요청을 돌려줍니다. 실제 실행은 AI가 아니라 앱(또는 서비스 쪽 서버)이 합니다. 그 결과를 다시 AI에게 건네면 AI가 결과를 읽고 답을 완성합니다.

아래 표는 "내일 서울 날씨 보고 우산 챙겨야 하는지 알려 줘"라는 요청을 날씨 도구로 처리하는 예입니다.

Claude Code를 에이전트로 만드는 것도 도구입니다. 도구가 없으면 Claude는 글로만 답할 수 있습니다. 도구가 있으면 코드 읽기, 파일 수정, 명령 실행, 웹 검색을 할 수 있습니다.

여러 도구를 AI에 연결하는 방법을 표준으로 정한 것이 MCP입니다. 이 내용은 MCP란 무엇인가에서 설명합니다.

에이전트 루프: 생각, 행동, 확인

에이전트는 반복으로 일합니다. Claude Code 문서는 이 반복을 에이전트 루프라고 부르고, 세 단계로 나눕니다.

1. 맥락 모으기: 지금 상황과 필요한 정보를 파악합니다.
2. 행동하기: 도구를 써서 무언가를 합니다.
3. 결과 확인하기: 행동의 결과를 보고 다음에 무엇을 할지 정합니다.

이 과정을 일이 끝날 때까지 되풀이합니다. 한 줄로 그리면 다음과 같습니다.

사람의 요청 → 생각 → 도구 사용 → 결과 보기 → (다시 생각…) → 완료 또는 사람에게 확인

예를 들어 사용자가 "실패하는 테스트를 고쳐 줘"라고 하면, 에이전트는 다음 순서로 움직입니다.

1. 테스트를 실행합니다.
2. 오류 메시지를 읽습니다.
3. 관련 파일을 찾습니다.
4. 파일을 읽습니다.
5. 코드를 고칩니다.
6. 테스트를 다시 실행해 통과하는지 확인합니다.

사람이 단계마다 지시하지 않아도, 에이전트가 앞 단계의 결과를 보고 다음 단계를 고릅니다. 또 사용자는 중간에 언제든 끼어들어 방향을 바꿀 수 있습니다. 모델 주위에서 도구와 맥락을 관리해 이 루프를 돌리는 부분을 에이전트 하네스(harness, 말에 채우는 마구처럼 모델을 일에 연결하는 틀)라고 부릅니다.

흔한 오해 세 가지

1. "AI 에이전트는 완전히 다른 새 두뇌다." 대부분의 에이전트 속 두뇌는 챗봇과 같은 종류의 LLM입니다. Anthropic의 표현대로 에이전트는 "루프 안에서 도구를 쓰는 LLM"인 경우가 많습니다. 달라지는 것은 도구, 반복 구조, 스스로 다음 단계를 정하는 방식입니다.

2. "에이전트는 알아서 다 하니 맡기고 잊어도 된다." 에이전트에는 사람의 확인 지점, 멈춤 조건(예: 반복 횟수 제한), 권한 제한이 필요합니다. 에이전트의 오류는 누적될 수 있습니다.

3. "에이전트가 늘 더 좋다." AI 앱을 만들 때는 가능한 가장 단순한 방법부터 찾고, 필요할 때만 복잡도를 올리는 편이 좋습니다. 에이전트는 비용이 더 들 수 있고, 순서가 정해진 일이라면 워크플로가 더 예측하기 쉽습니다. 에이전트는 몇 단계가 필요할지 미리 알기 어려운 열린 문제에 알맞습니다.

에이전트를 쓸 때 알아 두면 좋은 안전 습관

에이전트는 실제로 무언가를 바꾸기 때문에, 챗봇보다 조심할 부분이 많습니다.

• 권한 범위를 정하세요. Claude Code 같은 도구에는 AI가 승인 없이 할 수 있는 범위를 정하는 설정이 있습니다. 처음에는 행동마다 확인받는 쪽이 안전합니다.
• 되돌릴 수 있는지 확인하세요. Claude Code는 파일을 수정하기 전에 스냅샷을 남겨 되돌릴 수 있습니다. 하지만 데이터베이스 변경이나 배포처럼 외부 시스템에 한 행동은 되돌릴 수 없습니다.
• 연습 환경에서 먼저 시험하세요. 에이전트는 샌드박스(실제 환경과 분리된 연습 공간)에서 충분히 시험하고 안전장치를 두세요.
• 중간 결과를 확인하세요. 긴 작업이라도 중요한 단계마다 결과를 보고 필요하면 멈추게 하세요.

Claude Code나 Blender 자동화도 같은 원리로 움직입니다. 작은 단계로 나누고, 단계마다 결과를 확인하는 습관이 에이전트를 안전하게 쓰는 기본입니다.

정리

함께 읽기

• LLM(대규모 언어 모델)이란 무엇인가: 에이전트의 두뇌인 LLM을 쉽게 설명합니다.
• MCP란 무엇인가: AI에 도구를 연결하는 표준인 MCP를 설명합니다.

참고 자료

• Anthropic, "Building effective agents" (2024-12-19): https://www.anthropic.com/engineering/building-effective-agents
• OpenAI, "A practical guide to building agents" (PDF): https://cdn.openai.com/business-guides-and-resources/a-practical-guide-to-building-agents.pdf
• Google Cloud, "What are AI agents?": https://cloud.google.com/discover/what-are-ai-agents
• Claude Docs, "Tool use with Claude": https://platform.claude.com/docs/en/agents-and-tools/tool-use/overview
• Claude Code Docs, "How Claude Code works": https://code.claude.com/docs/en/how-claude-code-works