최신 LLM 에이전트 강의 7편: AI 혁신 비밀 대공개!

게시일: 2024년 10월 22일 작성자: 자청의 유튜브 추출기

AI 에이전트, 이제는 회사에서도 일한다!

이번 강의는 AI 에이전트가 회사에서 어떻게 쓰일 수 있는지, 누가 쓰는지, 어떤 일을 하는지, 그리고 어떤 환경에서 사용되어야 하는지에 대해 이야기할 거야.

Service Now는 회사들이 일을 더 잘하게 도와주는 플랫폼을 만드는 회사야.
직원이 25,000명이나 되는 큰 회사지.
특히 워크플로우 자동화에 집중하는데, 예를 들어 네 노트북이 고장 났을 때 IT 지원팀에 새 노트북을 신청하는 과정 같은 것들을 자동화해줘.
이런 과정에는 사람이 직접 해야 하는 일들이 많지만, AI 에이전트가 이런 일들을 도와서 더 효율적으로 만들 수 있어.

우리가 흔히 아는 AI 에이전트는 게임을 잘하거나 특정 게임에서 사람보다 뛰어난 성능을 보여주기도 해. 하지만 이런 에이전트들은 이메일을 쓰거나 회사 업무를 처리하는 데는 서툴지.
반면에 LLM(거대 언어 모델) 기반 AI 에이전트는 인터넷에 있는 방대한 정보를 학습했기 때문에, 우리가 일상적으로 사용하는 컴퓨터 프로그램이나 웹사이트 사용법을 잘 알고 있어.
이런 LLM 에이전트는 크게 두 가지 종류로 나눌 수 있어.
- API 호출 에이전트: 정해진 규칙(API)에 따라 정보를 주고받으며 일을 처리해.
- 웹 에이전트: 사람이 웹사이트를 사용하는 것처럼 직접 클릭하고, 정보를 입력하고, 페이지를 넘나들며 일을 처리해.

예시: 존이라는 직원이 회사 인트라넷에서 특정 자료를 볼 수 없어서 IT 지원팀에 티켓을 보냈어.
- 기존 방식: 샌디라는 직원이 티켓을 받고, 관련 자료를 찾고, 권한을 확인하고, 권한을 수정하고, 문제를 해결해. 이 과정에서 AI가 일부 도움을 줄 수도 있지만, 여전히 사람이 해야 할 일이 많아.
- AI 에이전트 활용: AI 에이전트 팀이 존의 문제를 미리 파악하고, 필요한 권한을 자동으로 부여하는 계획을 세워. 샌디는 이 계획을 검토하고 승인만 하면 돼. 그러면 AI 에이전트들이 알아서 존에게 필요한 권한을 부여하고 문제를 해결해 주는 거지.

AI 에이전트를 만드는 데는 복잡한 기술이 필요해. 마치 기계 학습 알고리즘을 처음부터 만드는 것처럼 말이야.
그래서 TAPE Agents라는 새로운 프레임워크가 나왔어. 이건 AI 에이전트를 만들고, 디버깅하고, 성능을 최적화하는 데 도움을 주는 도구야.
TAPE Agents는 에이전트가 생각하고 행동하는 모든 과정을 기록하는 '테이프'라는 개념을 사용해. 이 테이프는 데이터처럼 활용될 수 있어서, 에이전트의 성능을 개선하는 데 큰 도움이 돼.
이 프레임워크를 사용하면 복잡한 AI 에이전트를 더 쉽게 만들고, 더 저렴하게 운영할 수 있어. 예를 들어, 아주 큰 AI 모델이 했던 일을 더 작은 AI 모델이 똑같이 할 수 있도록 학습시키는 거지.

웹 에이전트는 API가 없을 때 유용해. 마치 우리가 웹사이트를 사용하는 것처럼, 버튼을 클릭하고, 양식을 채우고, 페이지를 탐색하는 모든 행동을 할 수 있어.
예시: Nvidia GTC 컨퍼런스에 가는 방법을 찾기 위해 웹 에이전트를 사용했어. 처음에는 구글 지도에서 GTC를 찾지 못했지만, 추가 정보를 주자 컨퍼런스 장소를 찾아서 가는 방법을 알려줬지.
웹 에이전트를 만드는 것은 생각보다 간단할 수 있지만, 성능을 측정하고 개선하는 것은 훨씬 어려워.
Work Arena라는 벤치마크는 실제 회사 업무와 관련된 600가지 이상의 작업을 통해 웹 에이전트의 성능을 평가해. 예를 들어, 특정 물품을 주문하거나, 대시보드를 읽거나, 목록을 정렬하는 등의 작업들이지.
현재 웹 에이전트들은 아직 완벽하지 않아. 계획을 세우는 데 어려움을 겪거나, 존재하지 않는 버튼을 클릭하려고 하거나, 잘못된 정보를 입력하는 경우가 많아.
Browser Gym과 Agent Lab 같은 도구들은 웹 에이전트 개발과 평가를 더 쉽게 만들어주고, 성능 개선을 위한 연구를 돕고 있어.

AI 에이전트는 앞으로 우리가 일하는 방식을 완전히 바꿀 거야.
지식 노동이라고 불리는 수많은 직무들, 예를 들어 회의 일정 잡기, 코딩, 번역 등 다양한 일들을 AI 에이전트가 도와줄 수 있어.
미국 노동부의 ONET 데이터베이스 같은 자료를 활용하면, 각 직업의 어떤 작업들이 AI 에이전트에 의해 자동화될 수 있는지 분석할 수 있어.
AI 에이전트와 인간이 협력하는 방식은 크게 두 가지로 나눌 수 있어.
- 센타우르(Centaur) 방식: 사람이 큰 그림을 그리고, AI가 세부적인 작업을 처리하는 방식.
- 사이보그(Cyborg) 방식: 사람과 AI가 아주 긴밀하게 협력하여 작업을 수행하는 방식.
앞으로는 AI 에이전트가 사람들의 업무를 도와서 생산성을 크게 높여줄 것으로 기대돼.

AI 에이전트는 이제 막 시작 단계지만, 앞으로 우리 업무 환경에 엄청난 변화를 가져올 거야!