툴 호출이란? AI 통합 완벽 가이드

AI 모델은 학습 데이터를 바탕으로 추론하고 확장해 사용자에게 응답을 제공합니다. 하지만 요청이 초기 정보의 범위를 벗어나면 어떻게 될까요?

도구 호출은 이러한 지식과 기능의 격차를 줄여 주는 기능입니다. 모델은 이를 통해 업데이트 전송 같은 작업을 실행하거나 데이터 대시보드에서 콘텐츠를 가져오는 등 외부 도구와 시스템에 추가 지원을 요청할 수 있습니다.

이 글에서는 도구 호출이 무엇인지, 함수 호출과 어떻게 다른지, 그리고 ElevenAgents가 도구 호출을 대화형 AI 워크플로에 어떻게 활용하는지 살펴보겠습니다.

요약

• 도구 호출을 사용하면 AI 모델이 작업을 실행하고 외부 도구 및 API에 정보를 요청할 수 있습니다.
• AI 모델이 직접 도구를 실행하는 것은 아닙니다. 대신 애플리케이션 레이어가 요청을 실행합니다.
• 도구 호출은 5단계 프로세스를 따르며, 하나의 요청에서 여러 도구가 활성화될 수 있습니다.
• 도구 호출은 정보 검색, 코드 실행, 기기 제어 또는 워크플로 및 프로세스 상호작용에 활용할 수 있습니다.
• ElevenAgents는 음성 에이전트에서 도구 호출을 지원하므로 대화형 AI 어시스턴트가 대신 작업을 완료할 수 있습니다.

도구 호출이란 무엇인가요?

도구 호출은 AI 모델이 다른 시스템과 상호작용할 수 있게 해 주는 기능입니다. 이 시스템은 데이터베이스, API, 소프트웨어 또는 학습 데이터의 범위를 넘어 기능을 수행하게 해 주는 모든 대상이 될 수 있습니다. 

도구 호출은 일반적으로 JSON 형식으로, 타사 시스템에 작업 수행을 요청하는 요청을 생성합니다. AI 시스템은 도구 호출을 사용해 외부 시스템을 쿼리하고, 실시간 정보를 가져오며, 명령을 실행하거나 작업을 수행합니다. 도구 호출 기능을 통해 에이전틱 AI는 외부 리소스에 접근하고 타사 시스템을 동적으로 활용해 더 복잡하거나 여러 단계로 이루어진 작업을 완료할 수 있습니다.

도구를 호출할 수 있는 능력은 이미 알고 있는 정보에만 기반해 응답할 수 있는 LLM과 에이전틱 AI 어시스턴트를 구분하는 핵심 요소입니다.

도구 호출이 중요한 이유는 무엇인가요?

대규모 언어 모델은 방대한 양의 과거 데이터를 학습해 기능을 발전시킵니다. 이 덕분에 사용자에게 응답하고 정보를 제공하는 강력한 시스템이 되지만, 초기 학습 맥락과 정보 말뭉치를 넘어서는 데는 한계가 있습니다. LLM에 범위를 벗어나거나 기능을 초과하는 정보를 요청하면, 응답을 제공하기 위해 외부 도움이 필요합니다.

도구 호출은 바로 이러한 외부 지원입니다. LLM이 다른 소스에서 최신 데이터를 가져오거나 타사 API, 내부 데이터베이스처럼 기업이 이미 운영 중인 실시간 시스템에 통합할 수 있게 합니다.

AI 시스템에서 도구 호출을 활용하면 다음과 같은 이점이 있습니다:

• 환각 감소: 직접 도구 호출로 정보를 검증하는 시스템은 정보를 지어내거나 학습 데이터를 바탕으로 추정하는 대신 증거와 데이터를 기반으로 작동합니다.
• 더 높은 자율성과 범위: 도구 호출 LLM은 단순히 정보를 제공하는 것을 넘어 작업을 완료할 수 있습니다. 
• 실시간 응답: 실시간 소스를 조회하면 LLM은 데이터베이스나 API 호출에서 실시간 데이터를 가져와, 학습 데이터만으로는 얻을 수 없는 최신 정보를 제공할 수 있습니다.
• 자동화된 다단계 프로세스: 여러 시스템과 상호작용해야 할 수 있는 작업도 도구 호출 기능을 갖춘 LLM에서는 프롬프트 하나로 줄일 수 있습니다. 상호작용 창을 벗어나지 않고도 다른 시스템을 쿼리해 필요한 정보를 가져올 수 있습니다.

Gartner는 엔터프라이즈 애플리케이션의 40%가 2025년 5% 미만에서 증가해 2026년 말까지 작업별 AI 에이전트와 통합될 것으로 예측합니다. 작업에 맞는 도구를 호출할 수 있는 모델은 기능을 확장하고, 사용자가 자연어 프롬프트로 더 많은 일을 처리할 수 있게 합니다.

도구 호출과 검색 증강 생성(RAG) 비교

검색 증강 생성과 도구 호출은 모두 모델의 학습 데이터가 제공하는 맥락을 넘어 데이터를 검색한다는 점에서 같지만, 초점은 다릅니다. RAG는 주로 기사, 문서, 그리고 모델에 연결하는 지식 베이스와 같은 정적 콘텐츠에 사용됩니다. LLM에 추가 맥락을 제공해 더 포괄적인 답변을 생성하도록 돕습니다.

도구 호출은 지속적으로 변하는 실시간 시스템을 포함해 정보에 동적으로 접근하기 위한 기능입니다. RAG는 특정 연도의 가격 정보가 담긴 PDF를 가져올 수 있는 반면, 도구 호출은 연결된 시스템에서 실시간 가격을 즉시 가져올 수 있습니다. 지식 베이스와 실시간 도구는 모두 다양한 사용 사례에서 중요하므로, 대부분의 LLM 시스템은 이 기능들을 함께 사용합니다.

도구 호출은 어떻게 작동하나요?

도구 호출은 AI 에이전트가 내부 앱을 호출하든 외부 모델을 호출하든 비교적 표준적인 패턴을 따릅니다. 

도구 호출의 작동 방식을 간략히 살펴보겠습니다:

1. 도구 호출 필요 여부 판단
2. 연결된 시스템에서 적절한 도구 선택
3. 요청 생성 및 전송
4. 요청 실행 및 결과 반환
5. 모델 응답 또는 추가 작업 수행

각 단계를 자세히 살펴보겠습니다.

1단계: 도구 호출 필요 여부 판단

자연어 요청을 입력하면 모델은 프롬프트를 읽고 도구의 외부 도움이 필요한지 평가합니다. 학습 데이터와 일치하는 질문에는 외부 도움이 필요하지 않지만, 모델의 맥락을 벗어나는 질문에는 필요합니다.

“Salesforce에서 2분기 매출 수치는 얼마였나요?” 또는 “Shopify 스토어의 현재 활성 사용자 수는 몇 명인가요?”와 같은 질문에는 모두 도구 호출이 필요합니다.

2단계: 연결된 시스템에서 적절한 도구 선택

모델이 접근할 수 있는 모든 도구에는 이름, 기능에 대한 자연어 설명, 수용 가능한 매개변수로 구성된 스키마가 있습니다. 모델은 요청을 각 설명과 비교하여 작업에 적합한 도구를 찾습니다. 특히 에이전트에 많은 도구 카탈로그가 있는 경우, 수백 개의 도구를 일일이 살펴보면 적절한 도구를 찾는 속도가 크게 느려지므로 관련 도구를 필터링하는 내부 프로세스를 실행합니다.

3단계: 요청 생성 및 전송

적절한 도구를 선택한 후 모델은 흔히 JSON 형식의 구조화된 호출을 구성합니다. 이 호출은 어떤 도구를 호출할지와 요청에 무엇이 포함되는지를 정의합니다. 예를 들어 보고타의 날씨를 확인하는 요청은 {"name": "get_weather", "arguments": {"city": "Bogota"}}와 같을 수 있습니다. 모델이 이 호출을 출력하면 애플리케이션 레이어가 다음 단계에서 이를 실행합니다.

4단계: 요청 실행 및 결과 반환 

애플리케이션 레이어는 모델의 요청을 받아 도구를 실행하거나 API를 호출해 요청을 처리합니다. 이후 응답은 추가 맥락으로 원래 모델에 전달되며, 모델은 이를 바탕으로 사용자 응답을 구성할 수 있습니다. 

5단계: 모델 응답 또는 추가 작업 수행

도구 호출에서 얻은 데이터나 정보를 바탕으로 모델은 자연어로 사용자에게 응답하거나 특정 작업이 수행되었음을 확인합니다. 후자의 응답은 사용자가 달성하려는 작업이 특정 플랫폼에 메시지를 게시하거나 데이터베이스에 데이터를 입력하는 것처럼 행동 중심일 때 발생합니다.

작업에 더 많은 단계가 필요하면 모델은 이에 따라 1~4단계를 반복합니다. 더 복잡한 요청은 사용자에게 최종 응답을 생성하기 전에 여러 도구를 호출해야 할 수 있습니다. 예를 들어 사용자가 현재 환율을 확인한 뒤 통화를 환전하려는 경우, 모델은 이 최종 목표를 달성하기 위해 여러 단계를 순차적으로 실행해야 합니다. 

도구 호출 유형

도구 호출은 모델이 기반 학습을 넘어서는 데이터를 얻기 위해 외부 시스템을 호출하는 모든 경우를 말합니다. 실제 프로세스에서는 여러 시스템을 호출할 수 있으며, 다양한 사용 사례에 따라 서로 다른 유형의 도구가 활용됩니다.

• 정보 검색: 모델의 원래 학습 맥락 범위를 벗어나는 질문에 답하기 위해 API, 연결된 회사 데이터베이스 또는 검색 인덱스 같은 외부 소스에서 데이터를 가져오는 작업입니다.
• 코드 실행: 코드 환경을 통해 스크립트, 데이터 변환 프로세스 또는 계산을 실행하는 것입니다. 일반적으로 분석이 실제로 어떻게 작동하는지 설명하는 데 그치지 않고 데이터를 분석하는 데 사용됩니다.
• 프로세스 자동화: API 호출이 CMS와 상호작용하거나 회의를 예약하고, 기록을 업데이트하며, 알림을 보내거나 요청을 완료된 작업으로 전환하는 등 다른 시스템에서 특정 워크플로를 트리거하는 것을 말합니다. 개인을 대신해 작업을 수행하는 에이전틱 시스템에서 특히 흔합니다.
• 기기 및 시스템 제어: 다른 기기, 전화 통신 시스템, 스마트 홈 어시스턴트 등과 상호작용하는 도구 호출은 모두 이 범주에 속합니다.

도구 호출은 흔히 이 범주 중 하나에만 명확히 속하지 않습니다. 위 범주 중 여러 가지를 연속된 순서로 결합하는 다단계 및 연쇄 호출이 있을 수 있습니다. 예를 들어 고객의 주문 상태를 조회한 다음 환불을 처리하고, 내부 CRM을 업데이트한 후 실시간 상담원에게 해당 정보를 전달할 수 있습니다.

도구 호출과 함수 호출 비교: 주요 차이점

도구 호출은 함수 호출보다 더 넓은 범위와 다양한 잠재적 기능을 포괄하는 광범위한 범주입니다. 함수 호출은 모델이 미리 정의된 함수에 인수를 포함한 구조화된 호출을 생성하는 것을 말합니다.

다음 표에서 도구 호출과 함수 호출의 차이점을 살펴보겠습니다. 

도구 호출은 얼마나 신뢰할 수 있나요? 

도구 호출의 신뢰성은 전적으로 호출을 수행하는 모델에 달려 있습니다. 실패는 시스템마다 다르게 나타날 수도 있습니다. 예를 들어 한 AI 모델은 도구 호출에 실패한 후 단순히 답변을 환각할 수 있지만, 다른 모델은 사용자에게 다시 시도하라고 안내할 수 있습니다. 

Berkeley Function Calling Leaderboard는 도구 호출 측면에서 여러 모델의 성능을 비교하는 데 널리 인용되는 리더보드입니다. 함수 호출 리더보드로 설명되지만, 실제로는 API 호출, 데이터베이스 쿼리에서의 정보 수집, 병렬 호출 실행, 여러 턴의 대화 응답 등을 테스트해 도구 호출 효율성을 측정합니다.

모델은 총비용, 웹 검색 기능, 여러 턴 대화의 정확성, 환각 측정, 지연 시간 등을 기준으로 평가됩니다. 복잡하거나 다단계 워크플로를 실행하려는 경우, 어떤 모델이 더 포괄적인 도구 호출 기능을 갖추었는지 아는 것은 유용한 정보입니다. 

ElevenAgents로 도구 호출 시작하기

ElevenAgents에서는 여러 모델 중에서 선택하여 워크로드에 가장 적합한 기반 모델을 맞출 수 있습니다. 음성 에이전트는 도구를 호출해 주문을 조회하고, 기록을 확인하며, 데이터베이스를 업데이트하고, API에서 정보를 수집합니다.

외부 API를 호출하는 웹훅 도구, 애플리케이션이나 브라우저에서 작업을 트리거하는 클라이언트 도구, 맞춤형 서버 측 로직을 위한 코드 도구, 외부 도구 서버에 연결하는 MCP 도구, 상담원 연결과 같은 기본 제공 작업을 위한 시스템 도구 등 다양한 유형의 도구를 호출할 수 있습니다.

ElevenLabs는 사전 구축된 네이티브 커넥터도 제공하여 Zendesk, HubSpot, Salesforce 등 다양한 서비스에 맞춤 설정 없이 연결할 수 있습니다. ElevenAgents에 대해 자세히 알아보거나 가입하여 지금 도구 호출을 활용한 음성 에이전트 구축을 시작해 보세요.

FAQ