Agentic AI 완전 정복: RAG부터 MAS까지 기술 핵심 분석
게시일:
작성자: 자청의 유튜브 추출기
스스로 일하는 AI, 에이전틱 AI 파헤치기!
AI가 점점 똑똑해져서 이제는 스스로 목표를 세우고 일을 처리하는 단계까지 왔어. 이걸 에이전틱 AI라고 부르는데, 이게 어떻게 작동하는지 쉽게 알아볼게!
1. 에이전틱 AI, 왜 등장했을까?
- 기존 AI (LM)의 한계: GPT-4 같은 AI는 글을 잘 쓰고 이해하지만, 스스로 뭘 시작하지 않아. 시키는 대로만 하고, 대화가 끝나면 기억도 못 해. 마치 시키는 일만 하는 수동적인 사람 같지.
- 에이전틱 AI의 등장: 이런 한계를 극복하려고 에이전틱 AI가 나왔어. 똑똑한 AI(LM)를 두뇌로 삼고, 여기에 자율성, 목표, 계획, 기억 능력을 더한 거야. 마치 AI에게 스스로 생각하고 행동할 수 있는 능력을 준 거지!
2. 에이전틱 AI는 어떻게 움직일까?
에이전틱 AI는 크게 LM(두뇌), 도구, 컨텍스트(정보), 계획, 메모리를 합쳐서 움직여.
- 자율성: 한번 일을 맡기면 사람이 계속 간섭하지 않아도 알아서 척척 해내. 주변 상황을 파악하고, 정보를 바탕으로 생각하고, 목표를 이루기 위해 직접 행동하는 거지.
- 시스템 통합: AI의 능력은 두뇌(LM)뿐만 아니라, 두뇌에 연결된 신체(도구), 신경계(메모리, 계획 모듈)를 얼마나 잘 만드느냐에 따라 달라져. 랭체인, 오토젠 같은 프레임워크와 프로토콜 발전이 중요한 이유야.
3. AI 에이전트 vs. 에이전틱 AI
- AI 에이전트: 이메일 필터링처럼 특정 임무만 잘하는 혼자 일하는 전문가.
- 에이전틱 AI: 혼자 해결하기 어려운 크고 복잡한 문제를 풀기 위해 여러 전문가 AI가 팀으로 협력하는 시스템 자체. 마치 팀 프로젝트처럼!
4. AI의 똑똑한 생각과 행동 방식
- 추론 프레임워크 (리액트, 플랜 앤 액트):
- 리액트: "생각 -> 행동 -> 관찰 -> 다시 생각"을 반복하며 똑똑하게 일을 처리해.
- 플랜 앤 액트: 똑똑한 설계자(플래너)가 큰 그림을 짜면, 실행자(엑시큐터)가 계획대로 일을 처리해. 역할을 나누는 거지!
- AI의 기억 (RAG - 검색 증강 생성):
- AI는 기억력이 짧아. 그래서 외부 정보를 실시간으로 참고해서 기억력을 보충해.
- 문서를 작은 조각으로 나누고, 각 조각을 숫자로 바꿔서 저장해 둬.
- 질문이 들어오면, 질문과 관련된 정보를 빠르게 찾아서 기존 지식과 합쳐서 답변하는 거야. 이게 AI의 장기 기억 역할을 해.
- 함수 호출: AI는 직접 일을 실행하지 않아. 대신 사람이 말하는 요청을 컴퓨터가 이해할 수 있는 명령으로 바꿔주고, 실제 프로그램이 그 명령을 실행하고 결과를 AI에게 알려주는 방식이야.
5. AI 팀, 어떻게 협력할까?
- 계층적 패턴: 중앙 관리자 AI가 일을 나눠주고 결과를 합쳐. (예: 메타 GPT)
- P2P 분산 패턴: 팀장 없이 모든 AI가 동등하게 직접 협력해. (예: 오토젠)
- 소통 방식 (프로토콜):
- MCP (모델 컨텍스트 프로토콜): AI와 다른 프로그램(구글 드라이브, 코딩 등)이 소통하는 규칙.
- A2A (에이전트 에이전트 프로토콜): AI끼리 서로 일을 부탁하고 진행 상황을 보고하며 협상하는 방식.
이런 프로토콜 덕분에 다른 회사에서 만든 AI들도 서로 협력하는 AI들의 인터넷 시대가 열리고 있어.
6. 에이전틱 AI의 고민거리 (자율성 vs. 통제)
에이전틱 AI는 편리하지만, 몇 가지 어려운 문제도 있어.
- 예측 불가능성: AI는 매번 조금씩 다르게 생각해서 행동을 100% 예측하기 어려워.
- 오류 전파: 한 AI의 실수가 팀 전체로 퍼질 수 있어.
- 보안 위협: 악의적인 지시가 퍼지거나(프롬프트 감염), AI의 목표가 바뀌는 공격(오브젝티브 드리프트)이 가능해.
- 설명 가능성 부족: AI가 왜 그런 결정을 내렸는지 설명하기 어렵고 책임을 묻기도 힘들어.
이런 문제를 해결하기 위해 사람의 승인을 받거나(HITL), AI의 역할과 권한을 명확히 나누고, AI의 모든 과정을 기록하는 감사 시스템이 필요해. 팀에 비평가 AI를 두어 서로의 실수를 잡아주는 것도 좋은 방법이야.
7. 결론: 시스템 공학의 시대!
에이전틱 AI는 단순히 똑똑한 AI를 만드는 것을 넘어, 여러 부품을 잘 조립하고 지휘하는 시스템 공학의 영역이야.
AI는 다양한 기술을 통해 작동하고, 팀으로 협력하며, 프로토콜을 통해 소통해. 하지만 자율성과 통제 사이의 딜레마를 어떻게 해결하느냐가 미래 에이전틱 AI의 성공을 좌우할 거야. 사람의 감독과 AI의 자율적인 활동을 자연스럽게 결합하는 튼튼하고 안전한 시스템을 만드는 것이 중요해!