툴 호출이란? AI 통합 완벽 가이드
- 게시일
AI 모델은 학습 데이터를 바탕으로 추론하고 확장해 사용자에게 응답을 제공합니다. 하지만 요청이 이 초기 정보의 범위를 벗어나면 어떻게 될까요?
툴 호출은 이러한 지식 및 기능의 공백을 메우는 기능입니다. 모델이 외부 도구와 시스템에 추가 지원을 요청할 수 있도록 하며, 업데이트 전송 같은 작업을 실행하거나 데이터 대시보드에서 콘텐츠를 가져오는 데 사용할 수 있습니다.
이 글에서는 툴 호출의 개념, 함수 호출과의 차이, 그리고 ElevenAgents가 대화형 AI 워크플로에 툴 호출을 활용하는 방법을 살펴보겠습니다.
요약
- 툴 호출을 사용하면 AI 모델이 작업을 실행하고 외부 도구 및 API에 정보를 요청할 수 있습니다.
- AI 모델이 직접 도구를 실행하는 것은 아닙니다. 대신 애플리케이션 레이어가 요청을 실행합니다.
- 툴 호출은 5단계 프로세스를 따르며, 하나의 요청에서 여러 도구가 활성화될 수 있습니다.
- 툴 호출은 정보 검색, 코드 실행, 기기 제어, 워크플로 및 프로세스 상호작용에 사용할 수 있습니다.
- ElevenAgents는 음성 에이전트에서 툴 호출을 지원하므로 대화형 AI 어시스턴트가 대신 작업을 완료할 수 있습니다.
툴 호출이란?
툴 호출은 AI 모델이 다른 시스템과 상호작용할 수 있게 하는 기능입니다. 이 시스템은 데이터베이스, API, 소프트웨어 또는 학습 데이터 범위를 넘어서는 기능을 수행할 수 있는 모든 것이 될 수 있습니다.
툴 호출은 일반적으로 JSON 형식으로, 타사 시스템에 작업 수행을 요청하는 요청을 생성합니다. AI 시스템은 툴 호출을 통해 외부 시스템을 쿼리하고, 실시간 정보를 가져오며, 명령을 실행하거나 작업을 수행합니다. 도구를 호출할 수 있으면 에이전틱 AI는 외부 리소스에 액세스하고 타사 시스템을 동적으로 사용하여 더 복잡하거나 여러 단계로 이루어진 작업을 완료할 수 있습니다.
도구를 호출할 수 있는 능력은 이미 알고 있는 내용만을 기반으로 응답할 수 있는 LLM과 에이전틱 AI 어시스턴트를 구분하는 핵심 요소입니다.
툴 호출이 중요한 이유
대규모 언어 모델은 방대한 양의 과거 데이터를 학습해 기능을 개발합니다. 이 덕분에 사용자에게 응답하고 정보를 제공하는 강력한 시스템이 되지만, 초기 학습 컨텍스트와 정보 말뭉치의 범위를 넘어서는 데는 어려움을 겪습니다. LLM에 범위를 벗어나거나 기능을 넘어서는 정보를 요청하면, 응답을 제공하기 위해 외부의 도움이 필요합니다.
툴 호출은 바로 이러한 외부 지원으로, LLM이 다른 소스에서 최신 데이터를 가져오거나 타사 API 및 내부 데이터베이스처럼 기업이 이미 운영 중인 실시간 시스템과 통합할 수 있게 합니다.
AI 시스템에서 툴 호출이 제공하는 이점은 다양합니다:
- 환각 감소: 정보를 검증하기 위해 직접 툴 호출에 의존하는 시스템은 정보를 지어내거나 학습 데이터를 기반으로 추론을 확장할 가능성 대신 근거와 데이터를 바탕으로 작동합니다.
- 더 높은 자율성과 범위: 툴 호출 LLM은 단순히 정보를 제공하는 수준을 넘어 작업을 완료할 수 있습니다.
- 실시간 응답: 실시간 소스를 조회하면 LLM은 데이터베이스 또는 API 호출에서 실시간 데이터를 얻을 수 있어, 학습 데이터만으로는 제공할 수 없는 최신 정보를 전달합니다.
- 자동화된 다단계 프로세스: 여러 시스템과 상호작용해야 할 수 있는 작업도 툴 호출 기능을 갖춘 LLM에서는 하나의 프롬프트로 줄어듭니다. 상호작용 창을 벗어나지 않고도 다른 시스템을 쿼리해 필요한 정보를 가져올 수 있습니다.
Gartner는 기업 애플리케이션의 40%가 작업별 AI 에이전트와 2026년 말까지 통합될 것으로 예측합니다. 이는 2025년 5% 미만에서 증가한 수치입니다. 작업에 적합한 도구를 호출할 수 있는 모델은 기능을 확장하고, 사용자가 자연어 프롬프트로 더 많은 일을 처리할 수 있게 합니다.
툴 호출과 검색 증강 생성(RAG)의 비교
검색 증강 생성과 툴 호출은 모두 모델의 학습 데이터가 제공하는 컨텍스트를 넘어 데이터를 검색한다는 점에서는 같지만, 초점이 다릅니다. RAG는 주로 문서, 기사, 모델에 연결하는 지식 베이스 같은 정적 콘텐츠에 사용됩니다. LLM에 추가 컨텍스트를 제공해 더 포괄적인 답변을 생성하도록 돕습니다.
툴 호출은 지속적으로 변하는 실시간 시스템을 비롯한 정보에 동적으로 접근하기 위한 기능입니다. RAG는 특정 연도의 가격 정보가 담긴 PDF를 가져올 수 있는 반면, 툴 호출은 연결된 시스템에서 실시간 가격을 즉시 가져올 수 있습니다. 지식 베이스와 실시간 도구는 모두 많은 사용 사례에서 중요하기 때문에, 대부분의 LLM 시스템은 이 기능들을 함께 사용합니다.
툴 호출은 어떻게 작동하나요?
툴 호출은 AI 에이전트가 내부 앱을 호출하든 외부 모델을 호출하든 상당히 표준적인 패턴을 따릅니다.
툴 호출의 작동 방식을 간단히 살펴보겠습니다:
- 툴 호출 필요 여부 판단
- 연결된 시스템에서 적절한 도구 선택
- 요청 생성 및 전송
- 요청 실행 및 결과 반환
- 모델이 응답하거나 추가 작업 수행
각 단계를 자세히 살펴보겠습니다.
1단계: 툴 호출 필요 여부 판단
자연어 요청을 입력하면 모델은 프롬프트를 읽고 도구의 외부 도움이 필요한지 판단합니다. 학습 데이터와 일치하는 질문에는 외부 도움이 필요하지 않지만, 모델의 컨텍스트를 벗어나는 질문 등 일부 질문에는 필요합니다.
“Salesforce에서 2분기 매출은 얼마였나요?” 또는 “Shopify 스토어의 현재 활성 사용자 수는 몇 명인가요?”와 같은 질문에는 모두 툴 호출이 필요합니다.
2단계: 연결된 시스템에서 적절한 도구 선택
모델이 액세스할 수 있는 모든 도구에는 스키마가 있습니다. 즉, 이름, 기능에 대한 자연어 설명, 그리고 허용되는 매개변수입니다. 모델은 각 설명과 요청을 비교해 작업에 맞는 도구를 찾습니다. 특히 에이전트에 대규모 도구 카탈로그가 있는 경우, 수백 개의 도구를 직접 탐색하면 적절한 도구를 찾는 속도가 크게 느려지므로 관련 도구를 필터링하는 내부 프로세스를 실행합니다.
3단계: 요청 생성 및 전송
올바른 도구를 선택한 후 모델은 흔히 JSON 형식의 구조화된 호출을 구성합니다. 이 호출은 사용할 도구와 요청에 포함될 내용을 정의합니다. 예를 들어 보고타의 날씨를 요청하는 호출은 {"name": "get_weather", "arguments": {"city": "Bogota"}}처럼 보일 수 있습니다. 모델은 이 호출을 출력하고, 다음 단계에서 애플리케이션 레이어가 이를 실행합니다.
4단계: 요청 실행 및 결과 반환
애플리케이션 레이어는 모델의 요청을 수신하고 도구를 실행하거나 API를 호출해 요청을 처리합니다. 그런 다음 응답은 추가 컨텍스트로 원래 모델에 다시 전달되며, 모델은 이를 바탕으로 사용자에게 답변을 제공할 수 있습니다.
5단계: 모델이 응답하거나 추가 작업 수행
툴 호출에서 얻은 데이터나 정보를 바탕으로 모델은 일반 언어로 사용자에게 응답하거나 특정 작업이 수행되었음을 확인합니다. 후자의 응답은 사용자가 달성하려는 특정 작업이 특정 플랫폼에 메시지를 게시하거나 데이터베이스에 데이터를 입력하는 것처럼 행동 지향적일 때 발생합니다.
작업에 더 많은 단계가 필요하면 모델은 이에 따라 1~4단계를 반복합니다. 더 복잡한 요청은 사용자에게 최종 응답을 생성하기 전에 여러 도구를 호출해야 할 수 있습니다. 예를 들어 사용자가 현재 환율을 확인한 뒤 통화를 환전하려는 경우, 모델은 이 최종 목표를 달성하기 위해 여러 단계를 순차적으로 실행해야 합니다.
툴 호출의 유형
툴 호출은 모델이 기본 학습 범위를 넘어서는 데이터를 얻기 위해 외부 시스템을 호출하는 모든 경우를 말합니다. 실제 프로세스에서는 여러 시스템을 호출할 수 있으며, 다양한 사용 사례에서 서로 다른 유형의 도구를 사용합니다.
- 정보 검색: 모델의 원래 학습 컨텍스트 범위를 벗어나는 질문에 답하기 위해 API, 연결된 회사 데이터베이스 또는 검색 인덱스 등의 외부 소스에서 데이터를 가져오는 작업입니다.
- 코드 실행: 코드 환경에서 스크립트, 데이터 변환 프로세스 또는 계산을 실행하는 것입니다. 일반적으로 분석이 실제로 어떻게 작동하는지 설명하는 데 그치지 않고 데이터를 분석하는 데 사용됩니다.
- 프로세스 자동화: API 호출이 CMS와 상호작용하거나, 회의를 예약하거나, 기록을 업데이트하거나, 알림을 보내거나, 요청을 완료된 작업으로 전환하는 등 다른 시스템의 특정 워크플로를 실행하는 것을 말합니다. 개인을 위해 작업을 수행하는 에이전틱 시스템에서 특히 흔합니다.
- 기기 및 시스템 제어: 다른 기기, 전화 통신 시스템, 스마트 홈 어시스턴트 등과 상호작용하는 툴 호출이 모두 이 범주에 속합니다.
툴 호출은 한 가지 범주에만 명확히 속하지 않는 경우가 많습니다. 위의 여러 범주를 연속된 순서로 결합하는 다단계 및 연쇄 호출이 있을 수 있습니다. 예를 들어 고객의 주문 상태를 조회한 후 환불을 실행하고, 내부 CRM을 업데이트한 다음 그 정보를 상담원에게 전달할 수 있습니다.
툴 호출과 함수 호출: 주요 차이점
툴 호출은 함수 호출보다 더 광범위한 범주로, 더 넓은 범위와 더 다양한 잠재적 기능을 포괄합니다. 함수 호출은 모델이 인수와 함께 사전 정의된 함수를 호출하는 구조화된 호출을 생성하는 것입니다.
툴 호출과 함수 호출의 차이점을 표로 살펴보겠습니다.
툴 호출은 얼마나 신뢰할 수 있나요?
툴 호출의 신뢰성은 전적으로 호출을 수행하는 모델에 달려 있습니다. 또한 시스템마다 실패가 서로 다르게 나타날 수 있습니다. 예를 들어 한 AI 모델은 툴 호출에 실패한 뒤 단순히 답변을 환각할 수 있는 반면, 다른 모델은 사용자에게 다시 시도하라는 안내를 표시할 수 있습니다.
Berkeley 함수 호출 리더보드는 여러 모델의 툴 호출 성능을 비교하는 데 널리 참조되는 리더보드입니다. 함수 호출 리더보드로 설명되지만, 실제로는 API 호출, 데이터베이스 쿼리에서 정보 수집, 병렬 호출 실행 또는 여러 턴의 대화에서 응답하는 모델을 테스트하여 툴 호출 효율성을 측정합니다.
모델은 총비용, 웹 검색 능력, 여러 턴 대화의 정확도, 환각 측정, 지연 시간 등을 기준으로 평가됩니다. 복잡하거나 다단계 워크플로를 실행하려면, 어떤 모델이 더 포괄적인 툴 호출 기능을 갖추었는지 아는 것이 유용합니다.
ElevenAgents로 툴 호출 시작하기
ElevenAgents에서는 여러 모델 중에서 선택하여 워크로드에 가장 적합한 기반 모델을(를) 맞출 수 있습니다. 음성 에이전트는 도구를 호출하고, 주문을 조회하며, 기록을 확인하고, 데이터베이스를 업데이트하고, API에서 정보를 수집합니다.
외부 API를 호출하는 웹훅 도구, 애플리케이션 또는 브라우저에서 작업을 실행하는 클라이언트 도구, 맞춤형 서버 측 로직을 위한 코드 도구, 외부 도구 서버에 연결하는 MCP 도구, 상담원 연결 같은 기본 제공 작업을 위한 시스템 도구 등 여러 종류의 도구를 호출할 수 있습니다.
ElevenLabs는 사전 구축된 네이티브 커넥터도 제공합니다. Zendesk, HubSpot, Salesforce 등 다양한 서비스에 연결할 수 있어 맞춤 설정을 구성할 필요가 없습니다. ElevenAgents에 대해 자세히 알아보거나 가입하여 지금 툴 호출을 활용하는 음성 에이전트 구축을 시작해 보세요.
