멀티 에이전트(Multi-Agent)란 무엇인가 : AI 팀이 협력해 일하는 방법

 

 

2026년 4월 23일 읽기 13분 AI 기술 시리즈

핵심 요약

• 멀티 에이전트 시스템은 역할이 나뉜 여러 AI 에이전트가 오케스트레이터의 조율 아래 협력해 복잡한 작업을 처리하는 구조입니다.
• 단일 에이전트의 컨텍스트 창 한계, 전문화 부재, 병렬 처리 불가라는 3가지 구조적 한계를 멀티 에이전트가 해소합니다.
• AutoGen(Microsoft, 2023), CrewAI(2024), LangGraph(2024)가 현재 가장 널리 쓰이는 오픈소스 프레임워크입니다.
• MCP는 에이전트가 외부 도구를 쓰는 규약이고, 멀티 에이전트는 에이전트들이 서로 협력하는 설계 방식입니다. 둘은 보완 관계입니다.
• MetaGPT(arXiv, 2023), ChatDev(arXiv, 2023)는 멀티 에이전트 구조로 소프트웨어 개발 파이프라인을 자동화한 대표 연구입니다.

직전 글에서 다룬 MCP가 AI와 외부 도구의 연결 표준이었다면, 이번엔 AI 에이전트들끼리 어떻게 협력하는지로 한 걸음 더 들어갑니다. 멀티 에이전트(Multi-Agent) 시스템은 여러 AI 에이전트가 각자의 역할을 맡아 분업하고, 오케스트레이터의 조율을 받아 하나의 복잡한 작업을 완수하는 구조입니다. 2023년 Stanford의 Generative Agents 논문은 25명의 AI 에이전트가 가상 마을에서 자율적으로 사회를 이루는 장면을 공개했습니다. 그 논문을 계기로 멀티 에이전트 시스템의 가능성이 연구자들 사이에서 본격적으로 논의되기 시작했죠.

AI 에이전트가 무엇인지 아직 낯설다면 AI 카테고리 글을 먼저 읽어두시면 이번 내용이 훨씬 잘 들어올 겁니다.

멀티 에이전트 시스템이란 무엇인가 : 핵심 정의

멀티 에이전트 시스템은 각자 목표와 역할을 가진 여러 AI 에이전트가 메시지를 주고받으며 협력해 하나의 복잡한 목표를 달성하는 구조입니다.

2023년 8월 공개된 MetaGPT 논문(arXiv:2308.00352)은 제품 관리자·아키텍트·엔지니어·QA 에이전트가 소프트웨어 개발 파이프라인을 역할 분담해 처음부터 끝까지 자동으로 완수하는 시스템을 제시했습니다(MetaGPT, arXiv 2023). 같은 해 Stanford 연구팀은 arXiv:2304.03442에서 25개의 AI 에이전트가 샌드박스 마을에서 일과·대화·계획을 자율적으로 수행하는 Generative Agents를 공개해 에이전트 협력의 사회적 가능성을 보여줬습니다(Stanford Generative Agents, arXiv 2023).

에이전트들은 "혼자 모든 걸 하는 범용 AI" 대신 특화된 역할을 맡습니다. 한 에이전트는 조사만, 다른 에이전트는 초안 작성만, 또 다른 에이전트는 검토만 담당합니다. 이 분업이 전체 시스템의 품질과 처리 능력을 끌어올립니다.

이미지: PNG 다이어그램 — 단일 에이전트(순차·단일 처리)와 멀티 에이전트(분업·병렬 처리) 구조 비교. 역할 전문화와 병렬 처리가 멀티 에이전트의 핵심 이점임을 시각화

단일 에이전트(순차·단일 처리)와 멀티 에이전트(분업·병렬 처리) 구조 비교. 역할 전문화와 병렬 처리가 멀티 에이전트의 핵심 이점임을 시각화

왜 에이전트 하나로는 부족한가 : 단일 에이전트의 3가지 한계

GPT-4 Turbo가 128,000 토큰(2023년 11월 OpenAI DevDay 발표 기준), Claude 3 패밀리가 200,000 토큰의 컨텍스트 창을 제공하는 수준까지 왔지만, 수백 페이지 문서나 수십만 줄 코드베이스처럼 현실의 복잡한 작업 앞에서 단일 에이전트는 세 가지 구조적 벽에 부딪힙니다.

LLM이 언어를 생성하는 원리가 궁금하다면 AI 카테고리 관련 글을 참고하세요.

한계 1. 컨텍스트 창의 물리적 한계 수십만 줄 코드베이스 전체, 수백 페이지 문서, 장기 프로젝트 이력을 한 번에 처리하는 일은 200K 토큰으로도 버겁습니다. 컨텍스트가 꽉 차면 초반 정보가 희미해지거나 잘려 나갑니다. 멀티 에이전트 구조에서는 각 에이전트가 담당 영역만 처리하므로 컨텍스트가 분산됩니다.

한계 2. 전문화 부재 "모든 걸 잘하는 에이전트"는 각 분야의 전문 에이전트를 이기기 어렵습니다. 코드 검토 전담 에이전트는 법률 검토나 리서치 요약을 동시에 해야 하는 범용 에이전트보다 해당 영역에서 더 높은 품질을 냅니다. MetaGPT는 이 원리로 HumanEval·MBPP 같은 소프트웨어 개발 벤치마크에서 단일 GPT-4 기반 에이전트보다 유의미하게 높은 Pass@1 점수를 기록했습니다(MetaGPT, arXiv:2308.00352, 2023).

한계 3. 병렬 처리 불가 단일 에이전트는 작업을 순차적으로 처리합니다. 보고서 작성에서 "시장 조사 + 경쟁사 분석 + 재무 데이터 수집"을 동시에 수행할 수 없습니다. 멀티 에이전트 구조에서는 이 세 작업을 별도 에이전트가 동시에 수행하고 결과를 취합합니다. 처리 시간이 선형이 아닌 병렬로 줄어듭니다.

멀티 에이전트의 작동 구조 : 오케스트레이터와 실행자

멀티 에이전트 시스템의 대표 설계 패턴은 오케스트레이터(Orchestrator)와 워커(Worker)의 2계층 구조입니다. 오케스트레이터는 전체 목표를 이해하고 작업을 분해해 워커 에이전트에 할당합니다. 워커는 받은 세부 작업을 실행하고 결과를 돌려줍니다.

오케스트레이터는 Manager 또는 Planner로, 워커는 Subagent 또는 Executor로도 불립니다. 명칭보다는 계층 구조의 작동 방식이 핵심입니다. 요청이 들어왔을 때 전체 흐름은 이렇게 이어집니다.

1. 작업 수신 사용자가 오케스트레이터에게 고수준 목표를 전달합니다. ("경쟁사 3곳의 제품 비교 보고서를 작성해줘")

2. 작업 분해 오케스트레이터가 목표를 세부 작업 단위로 쪼갭니다. (A사 조사 / B사 조사 / C사 조사 / 비교표 작성 / 초안 검토)

3. 할당 각 세부 작업을 적합한 워커 에이전트에 배분합니다. 조사 에이전트 3개를 동시에 띄워 A·B·C사를 병렬로 조사합니다.

4. 병렬 실행 워커 에이전트들이 각자 담당 작업을 동시에 수행합니다. 필요에 따라 웹 검색·파일 읽기·코드 실행 등 도구를 사용합니다.

5. 결과 취합 오케스트레이터가 워커들의 결과를 모아 일관성을 검토하고 빠진 부분이 있으면 재요청합니다.

6. 최종 응답 취합된 내용을 정리해 사용자에게 최종 결과물을 전달합니다.

멀티 에이전트 오케스트레이터-워커 2계층 구조. 작업 수신→분해→할당→병렬 실행→취합→최종 응답의 6단계 흐름 시각화. AutoGen·CrewAI·LangGraph 공통 패턴

AutoGen · CrewAI · LangGraph : 주요 프레임워크 비교

멀티 에이전트 시스템을 구축할 때 현재 가장 많이 선택되는 오픈소스 프레임워크는 세 가지입니다. 각각 설계 철학과 강점이 달라서 사용 목적에 맞게 고르는 게 중요합니다.

비교 항목	AutoGen (Microsoft)	CrewAI	LangGraph
개발사 / 첫 공개	Microsoft / 2023 GA	독립 오픈소스 / 2024	LangChain Inc. / 2024
핵심 컨셉	대화 기반 멀티 에이전트 (Conversable Agents)	역할(Role) 기반 팀 협업	상태 기계(State Machine) 기반 그래프 흐름
사용 난이도	중간	낮음 (가장 진입 장벽 낮음)	높음 (그래프 개념 이해 필요)
강점	에이전트 간 자유로운 대화, 연구·실험 친화	직관적 역할 정의, 빠른 프로토타이핑	복잡한 상태 관리, 조건 분기, 프로덕션 수준 제어
대표 유스케이스	코드 생성·검토 루프, 연구 자동화	콘텐츠 파이프라인, 리서치 에이전트 팀	복잡한 워크플로우 자동화, 에이전트 상태 추적

세 프레임워크 모두 공식 문서와 튜토리얼이 잘 정비되어 있습니다. AutoGen 공식 문서(Microsoft, 2023)와 CrewAI 공식 문서(CrewAI, 2024), LangGraph 공식 문서(LangChain Inc., 2024)에서 각각 퀵스타트 예제를 확인할 수 있습니다.

2024년 10월 OpenAI는 Swarm이라는 실험적 멀티 에이전트 프레임워크를 공개했습니다. 경량 오케스트레이션에 초점을 맞춘 교육용 레퍼런스 구현으로, 아직 프로덕션 사용을 권장하지는 않습니다(OpenAI Swarm GitHub, 2024).

MCP와 멀티 에이전트의 관계 : 역할 명확히 나누기

한 문장 직답: MCP는 에이전트가 외부 도구를 쓰는 방법을 표준화한 규약이고, 멀티 에이전트는 에이전트들이 서로 협력하는 구조를 설계하는 방식입니다. 두 기술은 경쟁하지 않고 각각 다른 문제를 해결합니다.

직전 MCP 편에서 다뤘듯이, MCP는 AI 모델과 외부 도구(파일, DB, 웹, API) 사이의 통신을 표준화한 프로토콜입니다. 멀티 에이전트는 그 에이전트들이 서로 메시지를 주고받고 작업을 분담하는 협력 구조입니다. 레이어가 다릅니다.

실제 프로덕션 시스템에서 두 기술은 자연스럽게 결합됩니다. 각 워커 에이전트가 MCP를 통해 외부 도구(웹 검색, 코드 실행, 데이터베이스 조회)를 사용하고, 그 에이전트들이 멀티 에이전트 구조로 오케스트레이터의 조율을 받아 협력하는 방식입니다. MCP는 에이전트 하나가 도구와 연결하는 수직 연결이고, 멀티 에이전트는 에이전트들 사이의 수평 연결입니다.

MCP(수직·도구 연결 표준화)와 멀티 에이전트(수평·에이전트 간 협력)의 2계층 보완 관계. 각 에이전트가 MCP로 외부 도구를 연결하면서 동시에 멀티 에이전트 구조로 서로 협력하는 실제 프로덕션 아키텍처를 표현. (Anthropic MCP 공식 문서, 2024)

 

Anthropic의 MCP 공식 문서(2024)에서 정의한 Host–Client–Server 아키텍처 위에서는, 멀티 에이전트 구조의 각 에이전트가 독립적인 MCP 클라이언트 역할을 맡아 필요한 도구를 호출하는 조합이 구조적으로 가능합니다. 실제로 멀티 에이전트 프레임워크와 MCP는 함께 설계되는 것이 자연스러운 조합입니다.

실제 사용 사례 : 코드 리뷰, 리서치, 고객 지원

멀티 에이전트 시스템은 이미 다양한 실제 작업에서 쓰이고 있습니다. 대표적인 세 가지 사례를 봅니다.

소프트웨어 개발 자동화 : ChatDev와 MetaGPT

Tsinghua University 연구팀이 2023년 발표한 ChatDev(arXiv:2307.07924)는 CEO·CTO·개발자·테스터 에이전트가 실제 소프트웨어 개발 사이클을 시뮬레이션하는 시스템입니다(ChatDev, arXiv 2023). 공개 레퍼런스 구현은 OpenBMB GitHub 조직(github.com/OpenBMB/ChatDev)에서 관리됩니다. 사용자가 "플래시카드 앱 만들어줘"라고 입력하면 기획 → 설계 → 코딩 → 테스트 → 디버깅 단계를 에이전트들이 분담해 실행 가능한 코드를 출력합니다. MetaGPT도 같은 원리로 HumanEval·MBPP 벤치마크에서 단일 GPT-4 기반 에이전트 대비 유의미하게 높은 Pass@1 점수를 기록했습니다(MetaGPT, arXiv:2308.00352, 2023).

리서치 파이프라인 자동화

CrewAI 기반의 리서치 에이전트 팀은 조사·요약·검수 역할을 에이전트 3개로 나누는 것만으로 단일 에이전트 대비 훨씬 깊은 리서치를 가능하게 합니다. 조사 에이전트가 웹에서 자료를 수집하는 동안, 요약 에이전트는 이미 도착한 자료를 정제하고, 검수 에이전트는 팩트체크와 품질 검토를 병렬로 수행합니다.

고객 지원 자동화

분류 에이전트가 인입된 문의를 카테고리별로 나누고, 해당 카테고리 전문 에이전트(환불·기술지원·배송 등)가 처리한 뒤, 마지막 에스컬레이션 에이전트가 인간 상담원 연결 여부를 판단하는 3단계 구조는 대형 고객센터에서 빠르게 도입되고 있습니다.

직접 경험

CrewAI로 3-에이전트 리서치 파이프라인을 직접 구성해봤습니다. 검색 에이전트, 요약 에이전트, 검수 에이전트로 역할을 나눈 뒤 CrewAI의 Task와 Crew 객체를 정의하는 방식으로 약 80줄의 코드로 파이프라인을 완성했습니다.

가장 인상적인 부분은 검수 에이전트가 요약 에이전트의 출력에서 사실 오류를 실제로 잡아내는 장면이었습니다. 단일 에이전트가 스스로 자기 출력을 검토하는 것과 달리, 별도 에이전트가 독립적 관점에서 검토하니 품질이 눈에 띄게 달라졌습니다. CrewAI의 공식 튜토리얼은 이 구조를 30분 안에 따라할 수 있을 정도로 잘 정리되어 있습니다.

멀티 에이전트 관련 자주 묻는 질문

멀티 에이전트 시스템이 일반 AI 챗봇과 다른 점은 무엇인가요?

일반 AI 챗봇은 에이전트 하나가 모든 요청을 처리합니다. 멀티 에이전트 시스템은 역할이 나뉜 여러 에이전트가 분업해 협력하는 구조입니다. 조사 에이전트, 작성 에이전트, 검토 에이전트처럼 각자 전문 역할을 맡고, 오케스트레이터가 전체 흐름을 조율합니다. 복잡하고 단계가 많은 작업일수록 차이가 커집니다.

AutoGen, CrewAI, LangGraph 중 어떤 프레임워크를 먼저 배워야 하나요?

처음 시작한다면 CrewAI가 진입 장벽이 가장 낮습니다. 역할 기반 에이전트 정의가 직관적이고 공식 튜토리얼이 잘 정비되어 있습니다. 복잡한 상태 관리나 조건 분기가 필요한 프로덕션 수준 시스템이라면 LangGraph가 적합하고, 연구 목적의 다중 에이전트 실험에는 AutoGen이 유용합니다(각 공식 문서, 2024).

멀티 에이전트 시스템을 만들 때 비용이 많이 드나요?

에이전트가 많아질수록 LLM API 호출 횟수가 늘어 비용이 선형 이상으로 증가할 수 있습니다. 에이전트 수를 최소화하고 반복 작업에는 더 저렴한 소형 모델을 활용하는 설계가 중요합니다. CrewAI와 AutoGen 모두 로컬 오픈소스 모델(Ollama 등)과 연동할 수 있어 비용을 줄이는 대안이 됩니다.

오케스트레이터 에이전트도 LLM인가요?

대부분의 구현에서 오케스트레이터도 LLM 기반 에이전트입니다. 다만 워커 에이전트보다 더 강력한 모델을 오케스트레이터에 배치하고, 실행자에는 비용이 낮은 소형 모델을 쓰는 혼합 전략이 일반적입니다. LangGraph처럼 코드로 분기를 제어하는 구조에서는 오케스트레이터가 명시적 조건 로직으로 구현되기도 합니다(LangGraph 공식 문서, 2024).

MCP와 멀티 에이전트를 함께 쓸 수 있나요?

함께 쓸 수 있고, 둘은 서로 다른 문제를 해결합니다. MCP는 에이전트가 외부 도구(파일, DB, 웹)를 사용하는 방법을 표준화합니다. 멀티 에이전트는 에이전트들끼리 협력하는 구조를 설계합니다. 실제 프로덕션 시스템에서는 각 에이전트가 MCP를 통해 도구를 연결하고, 그 에이전트들이 멀티 에이전트 구조로 협력하는 방식이 늘고 있습니다(Anthropic MCP 공식 문서, 2024).

멀티 에이전트 시스템은 언제 쓰면 안 되나요?

간단한 단일 요청·응답 작업에는 멀티 에이전트가 오히려 과잉 설계입니다. 에이전트 간 통신 오버헤드와 오류 전파 위험이 생기기 때문입니다. 작업이 순차적이고 복잡하지 않거나, 빠른 응답 시간이 최우선인 경우에는 단일 에이전트가 더 효율적입니다.

정리 : AI 협력 시대가 시작됐다

멀티 에이전트 시스템은 AI가 "개인 비서" 수준에서 "AI 팀" 수준으로 진화하는 전환점입니다. 2023년 MetaGPT와 ChatDev는 소프트웨어 개발 파이프라인 전체를 에이전트 팀이 처리할 수 있음을 보여줬고, 2024년에는 AutoGen·CrewAI·LangGraph가 잇달아 등장해 진입 장벽을 빠르게 낮췄습니다. 오케스트레이터-워커 패턴에 MCP를 더하면, 외부 도구까지 자유롭게 다루는 실질적인 AI 팀을 꾸릴 수 있습니다.

이 흐름을 지금 당장 개발자로서 따라가지 않더라도, 멀티 에이전트가 어떤 구조로 작동하는지 알아두면 앞으로 쏟아질 AI 도구들을 훨씬 빠르게 이해하게 됩니다. AI 제품 기획, 업무 자동화 설계, 엔지니어링 협업 등 어느 자리에서든 이 구조적 이해가 차이를 만들 겁니다.

지금 바로 시작할 수 있는 것들

• Claude Desktop에서 에이전트 여러 개를 MCP로 연결해 간단한 협력 파이프라인을 실험해봅니다. (RAG 편과 함께 읽으면 데이터 흐름이 더 잘 보입니다.)
• CrewAI 공식 튜토리얼의 "Research Crew" 예제를 따라하며 3-에이전트 구조를 직접 실행해봅니다.
• 다음 글에서는 멀티 에이전트의 '기억 창고'인 벡터 데이터베이스를 다룹니다. 에이전트가 어떻게 방대한 지식을 빠르게 검색해 참조하는지, B-3 벡터DB 편에서 이어집니다.

---

글쓴이: AI 시대의 컴공 졸업생 — 소개

참고 자료

• MetaGPT — MetaGPT: Meta Programming for Multi-Agent Collaborative Framework (arXiv, 2023)
• Stanford Generative Agents — Generative Agents: Interactive Simulacra of Human Behavior (arXiv, 2023)
• ChatDev — Communicative Agents for Software Development (arXiv, 2023)
• Microsoft AutoGen GitHub — microsoft/autogen
• AutoGen 공식 문서 — Microsoft AutoGen Documentation (2023)
• CrewAI 공식 문서 — CrewAI Documentation (2024)
• LangGraph 공식 문서 — LangGraph Documentation (2024)
• OpenAI Swarm GitHub — openai/swarm (실험적, 2024.10)
• Anthropic MCP 공식 문서 — Model Context Protocol Introduction (2024)