JP모건이 만든 투자 AI 에이전트, LangGraph로 혁신하는 비밀 공개!
게시일:
작성자: 자청의 유튜브 추출기
- 발표자는 유튜브 인터럽트 컨퍼런스에 참석한 것을 기쁘게 생각하며, 자신은 JP모건 프라이빗 뱅크의 연구팀 일원이라고 소개했어요.
- 수천 개의 투자 상품 리스트를 관리하며, 질문이 생기면 수작업으로 답을 찾는 데 한계가 있다고 설명했어요.
- 그래서 연구팀은 투자 조사 과정을 자동화하는 AI 도구인 'Ask David'를 개발하기로 했어요.
- Ask David는 빠르고 정확한 답변, 인사이트, 분석을 제공하는 AI 기반 솔루션이에요.
- 이 도구는 연구팀의 업무를 더 쉽고 효율적으로 만들어 줄 거라고 기대하고 있어요.
- Ask David는 도메인 특화 QA 에이전트로, 구조화된 데이터와 비구조화 데이터를 모두 활용할 수 있어요.
- 예를 들어, 이메일, 회의 기록, 영상 등 다양한 자료를 분석해 인사이트를 도출할 수 있어요.
- 이 시스템은 고객 미팅에서 펀드 종료 이유 같은 복잡한 질문도 실시간으로 답변 가능하게 해줘요.
- Ask David는 데이터 분석, 시각화, 인사이트 제공, 의사결정 지원을 목표로 만들어졌어요.
- 시스템은 여러 에이전트와 슈퍼바이저가 협력하는 멀티에이전트 구조로 설계됐어요.
- 슈퍼바이저는 사용자 의도를 파악하고, 적절한 하위 에이전트에 작업을 배분해요.
- 구조화 데이터 에이전트는 자연어를 SQL이나 API 호출로 변환해요.
- 비구조화 데이터는 저장, 벡터화 후 RAG 에이전트로 분석해요.
- 분석 에이전트는 API 또는 텍스트 생성 모델을 활용해 답변을 만들어내요.
- 전체 워크플로는 질문 유형에 따라 일반 질문 또는 특정 펀드 질문으로 나뉘어요.
- 답변은 개인화되고, 검증 과정을 거쳐 최종 요약으로 마무리돼요.
- 개발 과정은 간단한 시스템부터 시작해 점차 복잡한 구조로 발전시켰어요.
- 빠른 반복과 평가 중심 개발이 중요하며, 성과 지표를 통해 개선 방향을 잡았어요.
- 하위 에이전트별 평가와 적절한 지표 선택이 성능 향상에 도움돼요.
- 평가에는 정답 유무와 상관없이 다양한 지표를 활용해요.
- 대형 언어모델과 인간 검증을 병행해 확장성과 신뢰성을 높였어요.
- 인간의 개입은 50% 이하 정확도 개선에 필수적이며, 전략적 조정으로 80% 이상 달성 가능해요.
- 마지막 단계인 '마일드'에서는 인간이 최종 검증자로서 역할을 해요.
- 빠른 반복, 조기 평가, 인간의 개입 유지가 성공 비결이에요.
- 결론으로, 빠른 반복, 조기 평가, 인간의 참여를 강조하며 발표를 마무리했어요.