카르파티 LLM Wiki 한계? 🤯 확장 가능한 AI 에이전트 구축 비밀 공개!

AI 에이전트, 개인용 vs. 서비스용

AI 에이전트에는 크게 두 가지 종류가 있어. 지금은 개인용 에이전트에 다들 엄청 빠져있지. 마치 지금 네가 보고 있는 것처럼 말이야.

1. 개인용 에이전트 (Second Brain)

• 뭐야? 내 컴퓨터에 깔아서 쓰는 에이전트야. 예를 들면 Claude Code, Hermes 같은 걸로 내 지식 베이스를 관리하는 거지. 마치 나만의 똑똑한 비서 같은 거야.
• 어떻게 써? 보통 마크다운 문서로 지식 베이스를 만들고, 태그랑 분류를 해서 에이전트가 잘 찾아볼 수 있게 해. 매일매일 쓰면서 나만의 지식을 쌓아가는 거지.
• 장점:
  • 내 컴퓨터에서 돌아가니까 빠르고 접근하기 쉬워.
  • 개인적으로 쓰기엔 제일 간단하고 유연해.
• 단점:
  • 확장성이 없어! 이걸 다른 사람한테 서비스로 제공하려면 지금 방식으로는 안 돼.
  • 마크다운 문서만으로는 관리하고 검색하는 게 힘들어.
  • 개인용 구독으로는 비용이 많이 들 수 있어.

2. 서비스용 에이전트 (Production Agents)

• 뭐야? 이걸 다른 사람들이 쓰게 만들 때 필요한 에이전트야. 회사에서 쓰는 서비스 같은 거지.
• 왜 달라야 해?
  • 많은 사람이 동시에 써야 해.
  • 실시간 데이터를 다뤄야 해.
  • 접근 권한 관리, 검색 확장성 같은 게 중요해져.
• 어떻게 만들어?
  • 데이터베이스 사용: 마크다운 문서로는 절대 안 돼. 데이터베이스를 써야 해.
  • 두 가지 핵심 기능:
    • 컨텍스트 리트리버 (Context Retriever): 에이전트가 우리 회사 데이터를 이해하고 검색할 수 있게 도와줘. 마치 데이터베이스에 대한 설명서 같은 거지.
    • 에이전트 메모리 (Agent Memory): 사용자의 단기/장기 기억을 저장해서 에이전트가 더 똑똑하게 행동하게 해줘.
  • Redis Iris 활용: 이 모든 걸 Redis라는 데이터베이스 위에서 쉽게 만들 수 있게 도와주는 도구야. (물론 다른 데이터베이스로도 가능해!)

컨텍스트 리트리버 (Context Retriever)

• 하는 일:
  • 우리 회사 데이터 (고객 정보, 주문 내역 등)를 에이전트가 이해하고 검색할 수 있게 구조를 만들어줘.
  • 데이터베이스에 있는 정보를 어떻게 검색하고 필터링할 수 있는지 알려주는 '도구'들을 자동으로 만들어줘.
  • 마치 지식 베이스에 메타데이터를 추가해서 에이전트가 더 똑똑하게 정보를 찾게 해주는 거야.
• 예시: "배송 지연된 주문 찾아줘" 라고 하면, 컨텍스트 리트리버가 알아서 주문 데이터베이스에서 '배송 지연' 상태인 주문을 찾아주는 거지.

에이전트 메모리 (Agent Memory)

• 하는 일:
  • 사용자와의 대화 내용을 기억해.
  • 단기 기억: 바로 직전 대화 내용.
  • 장기 기억: 중요한 대화 내용을 뽑아서 오래 기억하게 만들어. 마치 중요한 내용을 따로 메모해두는 것처럼.
  • 벡터 검색: 이걸 이용해서 수많은 기억 속에서도 가장 관련 있는 기억을 빠르게 찾아내.
• 예시: "지난번에 주문 지연됐을 때처럼 처리해줘" 라고 하면, 에이전트 메모리에서 "주문 지연 시 환불 대신 재배송 요청"이라는 장기 기억을 찾아내서 그대로 처리해주는 거야.

결론

• 개인용 에이전트: 나 혼자 쓸 때는 마크다운 문서로 간단하게 만들어도 충분해.
• 서비스용 에이전트: 다른 사람들이 쓸 때는 데이터베이스, 컨텍스트 리트리버, 에이전트 메모리를 활용해서 훨씬 더 복잡하고 확장성 있게 만들어야 해.

이 두 가지를 잘 구분해서 만드는 게 중요해!