Was ist Tool Calling? Ein vollständiger Leitfaden zur KI-Integration

KI-Modelle nutzen ihre Trainingsdaten und leiten daraus Antworten für Nutzer ab. Doch was passiert, wenn eine Anfrage über den Umfang dieser ursprünglichen Informationen hinausgeht?

Tool Calling hilft, diese Wissens- und Funktionslücken zu schließen. Es ermöglicht einem Modell, zusätzliche Unterstützung von externen Tools und Systemen anzufordern – etwa um eine Aktion wie das Senden eines Updates auszulösen oder Inhalte aus einem Daten-Dashboard abzurufen.

In diesem Artikel erfahren Sie, was Tool Calling ist, wie es sich von Function Calling unterscheidet und wie ElevenAgents Tool Calling für Workflows mit Conversational AI einsetzt.

Zusammenfassung

• Tool Calling ermöglicht einem KI-Modell, Aktionen auszulösen und Informationen von externen Tools und APIs anzufordern.
• Ein KI-Modell führt ein Tool nicht selbst aus. Stattdessen führt eine Anwendungsschicht die Anfrage aus.
• Tool Calling folgt einem Prozess mit fünf Schritten. Bei derselben Anfrage können mehrere unterschiedliche Tools aktiviert werden.
• Tool Calling kann für Informationsabruf, Codeausführung, Gerätesteuerung oder die Interaktion mit Workflows und Prozessen eingesetzt werden.
• ElevenAgents unterstützt Tool Calling in Voice Agents, sodass Ihr Conversational-AI-Assistent Aufgaben für Sie erledigen kann.

Was ist Tool Calling?

Tool Calling ist eine Fähigkeit eines KI-Modells, die ihm die Interaktion mit einem anderen System ermöglicht. Dieses System kann eine Datenbank, eine API, eine Software oder alles andere sein, womit es Funktionen über seine Trainingsdaten hinaus ausführen kann.

Tool Calling erstellt eine Anfrage an ein Drittanbietersystem, um eine Aufgabe auszuführen, meist im JSON-Format. Ein KI-System nutzt Tool Calling, um externe Systeme abzufragen, Echtzeitinformationen abzurufen, Befehle auszuführen oder Vorgänge durchzuführen. Die Fähigkeit, Tools aufzurufen, ermöglicht agentischer KI, komplexere oder mehrstufige Aufgaben abzuschließen, indem sie auf externe Ressourcen zugreift und Drittanbietersysteme dynamisch nutzt.

Die Fähigkeit, Tools aufzurufen, unterscheidet agentische KI-Assistenten von LLMs, die nur auf Grundlage ihres vorhandenen Wissens antworten können.

Warum ist Tool Calling wichtig?

Large Language Models werden mit riesigen Mengen historischer Daten trainiert, um ihre Fähigkeiten zu entwickeln. Das macht sie zu leistungsstarken Systemen für Nutzeranfragen und die Bereitstellung von Informationen. Sie können jedoch nur schwer über ihren ursprünglichen Trainingskontext und Informationsbestand hinausgehen. Fragen Sie LLMs nach Informationen außerhalb ihres Umfangs oder ihrer Fähigkeiten, benötigen sie externe Unterstützung.

Tool Calling bietet diese externe Unterstützung. Es ermöglicht LLMs, aktuelle Daten aus anderen Quellen abzurufen oder sich in Live-Systeme zu integrieren, die ein Unternehmen bereits nutzt, etwa APIs von Drittanbietern oder interne Datenbanken.

Tool Calling bietet KI-Systemen zahlreiche Vorteile:

• Weniger Halluzinationen: Ein System, das Informationen durch direkte Tool-Aufrufe verifiziert, arbeitet mit Belegen und Daten, statt Informationen möglicherweise zu erfinden oder aus Trainingsdaten abzuleiten.
• Mehr Autonomie und Reichweite: Ein LLM mit Tool Calling kann Aktionen ausführen, die über die reine Bereitstellung von Informationen hinausgehen.
• Echtzeitantworten: Durch das Abfragen von Live-Quellen kann ein LLM Echtzeitdaten aus Datenbanken oder API-Aufrufen abrufen. So erhalten Sie aktuelle Informationen, die allein aus Trainingsdaten nicht verfügbar wären.
• Automatisierte mehrstufige Prozesse: Eine Aufgabe, für die Sie mit mehreren unterschiedlichen Systemen interagieren müssten, wird mit einem LLM mit Tool Calling auf einen Prompt reduziert. Es kann andere Systeme abfragen und Informationen für Sie abrufen, ohne dass Sie das Interaktionsfenster verlassen müssen.

Gartner prognostiziert, dass 40 % der Unternehmensanwendungen bis Ende 2026 mit aufgabenspezifischen KI-Agenten integriert sein werden, gegenüber weniger als 5 % im Jahr 2025. Ein Modell, das für eine Aufgabe das richtige Tool aufrufen kann, erweitert seine Fähigkeiten und ermöglicht Nutzern, mit Prompts in natürlicher Sprache mehr zu erledigen.

Tool Calling vs. Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation und Tool Calling suchen beide nach Daten außerhalb des Kontexts, den die Trainingsdaten eines Modells liefern. Sie konzentrieren sich jedoch auf unterschiedliche Dinge. RAG wird hauptsächlich für statische Inhalte verwendet, etwa Artikel, Dokumente und Wissensdatenbanken, die Sie mit einem Modell verbinden. Es versorgt ein LLM mit zusätzlichem Kontext, um umfassendere Antworten zu generieren.

Tool Calling dient dem dynamischen Zugriff auf Informationen, einschließlich sich ständig ändernder Echtzeitsysteme. RAG könnte ein PDF mit Preisen aus einem bestimmten Jahr abrufen, während Tool Calling sofort aktuelle Preise aus einem verbundenen System erfassen könnte. Die meisten LLM-Systeme nutzen beide Fähigkeiten gemeinsam, da Wissensdatenbanken und Live-Tools in vielen Anwendungsfällen wichtig sind.

Wie funktioniert Tool Calling?

Tool Calling folgt einem weitgehend standardisierten Muster – unabhängig davon, ob ein KI-Agent eine interne App oder ein externes Modell aufruft.

Hier ist ein Überblick über die Funktionsweise von Tool Calling:

1. Erkennen, wann ein Tool-Aufruf nötig ist
2. Das richtige Tool aus verbundenen Systemen auswählen
3. Eine Anfrage erstellen und senden
4. Die Anfrage wird ausgeführt und ein Ergebnis zurückgegeben
5. Das Modell antwortet oder führt weitere Aktionen aus

Sehen wir uns die einzelnen Schritte genauer an.

Schritt 1: Erkennen, wann ein Tool-Aufruf nötig ist

Nachdem Sie eine Anfrage in natürlicher Sprache eingegeben haben, liest ein Modell Ihren Prompt und bewertet, ob es externe Unterstützung durch ein Tool benötigt. Für eine Frage, die mit seinen Trainingsdaten übereinstimmt, braucht es keine externe Hilfe. Manche Fragen gehen jedoch über den Kontext des Modells hinaus.

Fragen wie „Wie hoch waren unsere Verkaufszahlen für Q2 in Salesforce?“ und „Wie viele aktive Nutzer hat unser Shopify-Shop aktuell?“ erfordern beide einen Tool-Aufruf.

Schritt 2: Das richtige Tool aus verbundenen Systemen auswählen

Jedes Tool, auf das ein Modell zugreifen kann, verfügt über ein Schema: einen Namen, eine Beschreibung seiner Funktion in natürlicher Sprache und die Parameter, die es akzeptiert. Ein Modell vergleicht Ihre Anfrage mit diesen Beschreibungen, um das richtige Tool für die Aufgabe zu finden. Besonders wenn ein Agent über einen großen Tool-Katalog verfügt, nutzt er einen internen Prozess, um relevante Tools zu filtern. Hunderte Tools manuell zu durchsuchen, würde die Suche nach dem richtigen Tool stark verlangsamen.

Schritt 3: Eine Anfrage erstellen und senden

Nach der Auswahl des richtigen Tools erstellt ein Modell einen strukturierten Aufruf, oft im JSON-Format. Dieser Aufruf definiert das Tool und den Inhalt der Anfrage. Eine Wetterabfrage für Bogotá könnte beispielsweise so aussehen: {"name": "get_weather", "arguments": {"city": "Bogota"}}. Das Modell gibt diesen Aufruf aus, und die Anwendungsschicht führt ihn im nächsten Schritt aus.

Schritt 4: Die Anfrage wird ausgeführt und ein Ergebnis zurückgegeben

Die Anwendungsschicht erhält die Anfrage eines Modells und führt das Tool aus oder ruft eine API auf, um die Anfrage auszuführen. Die Antwort wird dann als zusätzlicher Kontext an das ursprüngliche Modell zurückgegeben, das damit seine Antwort an einen Nutzer erstellen kann.

Schritt 5: Das Modell antwortet oder führt weitere Aktionen aus

Mit den Daten oder Informationen aus dem Tool-Aufruf antwortet das Modell entweder in natürlicher Sprache oder bestätigt, dass eine bestimmte Aktion ausgeführt wurde. Letzteres geschieht, wenn die gewünschte Aufgabe handlungsorientiert ist, etwa eine Nachricht auf einer bestimmten Plattform zu veröffentlichen oder Daten in eine Datenbank einzutragen.

Wenn die Aufgabe weitere Schritte erfordert, wiederholt das Modell die Schritte 1 bis 4 entsprechend. Bei komplexeren Anfragen müssen möglicherweise mehrere Tools aufgerufen werden, bevor eine abschließende Antwort erstellt werden kann. Möchte ein Nutzer beispielsweise einen aktuellen Wechselkurs wissen und anschließend Währungen umrechnen, muss das Modell mehrere Schritte nacheinander ausführen.

Arten von Tool Calling

Tool Calling beschreibt jeden Fall, in dem ein Modell ein externes System für Daten aufruft, die über sein zugrunde liegendes Training hinausgehen. Der Prozess kann mehrere unterschiedliche Systeme einbeziehen, und viele Anwendungsfälle nutzen verschiedene Arten von Tools.

• Informationsabruf: Umfasst das Abrufen von Daten aus einer externen Quelle wie einer API, einer verbundenen Unternehmensdatenbank oder einem Suchindex, um eine Frage zu beantworten, die über den ursprünglichen Trainingskontext eines Modells hinausgeht.
• Codeausführung: Die Ausführung eines Skripts, eines Datentransformationsprozesses oder einer Berechnung in einer Code-Umgebung. Dies wird typischerweise zur Datenanalyse verwendet, statt nur zu beschreiben, wie eine Analyse in der Praxis funktionieren könnte.
• Prozessautomatisierung: Beschreibt Fälle, in denen ein API-Aufruf einen bestimmten Workflow in einem anderen System auslöst, etwa die Interaktion mit einem CMS, das Planen eines Meetings, das Aktualisieren von Datensätzen, das Senden von Benachrichtigungen oder die Umwandlung von Anfragen in abgeschlossene Aktionen. Das ist besonders häufig bei agentischen Systemen, die Aufgaben für einzelne Nutzer erledigen.
• Geräte- und Systemsteuerung: Tool-Aufrufe, die mit einem anderen Gerät, einem Telefonsystem, einem Smart-Home-Assistenten und mehr interagieren, fallen in diese Kategorie.

Oft lässt sich Tool Calling nicht eindeutig nur einer dieser Kategorien zuordnen. Es kann mehrstufige und verkettete Aufrufe geben, die mehrere der genannten Kategorien in einer fortlaufenden Abfolge kombinieren. Sie könnten beispielsweise den Bestellstatus eines Kunden abrufen, dann eine Rückerstattung auslösen, anschließend Ihr internes CRM aktualisieren und diese Informationen an einen Live-Agenten weitergeben.

Tool Calling vs. Function Calling: Die wichtigsten Unterschiede

Tool Calling ist eine umfassendere Kategorie als Function Calling und deckt ein breiteres Spektrum sowie vielfältigere potenzielle Fähigkeiten ab. Function Calling liegt vor, wenn ein Modell einen strukturierten Aufruf mit Argumenten für eine vordefinierte Funktion generiert.

Die folgende Tabelle zeigt die Unterschiede zwischen einem Tool-Aufruf und einem Funktionsaufruf.

Wie zuverlässig ist Tool Calling?

Wie zuverlässig Tool Calling ist, hängt vollständig vom Modell ab, das die Aufrufe ausführt. Fehler können sich in verschiedenen Systemen auch unterschiedlich zeigen. Ein KI-Modell könnte nach einem fehlgeschlagenen Tool-Aufruf beispielsweise einfach eine Antwort halluzinieren, während ein anderes den Nutzer auffordert, es erneut zu versuchen.

Die Berkeley Function Calling Leaderboard ist eine häufig zitierte Rangliste, die die Leistung verschiedener Modelle beim Tool Calling vergleicht. Obwohl sie als Rangliste für Function Calling bezeichnet wird, misst sie in der Praxis die Effizienz von Tool Calling. Dafür testet sie Modelle mit API-Aufrufen, dem Abrufen von Informationen über Datenbankabfragen, parallelen Aufrufen und Antworten in mehrteiligen Gesprächen.

Modelle werden unter anderem hinsichtlich Gesamtkosten, Fähigkeit zur Websuche, Genauigkeit in mehrteiligen Gesprächen, Halluzinationsmessung und Latenz untersucht. Wenn Sie komplexe oder mehrstufige Workflows ausführen möchten, ist es hilfreich zu wissen, welche Modelle umfassendere Tool-Calling-Fähigkeiten bieten.

Mit ElevenAgents für Tool Calling starten

In ElevenAgents können Sie aus mehreren Modellen wählen und Ihre Workload dem bestmöglichen zugrunde liegenden Modell zuordnen. Voice Agents nutzen Tools, suchen Bestellungen, prüfen Datensätze, aktualisieren Datenbanken und sammeln Informationen über APIs.

Sie können verschiedene Arten von Tools nutzen: Webhook-Tools zum Aufrufen externer APIs, Client-Tools zum Auslösen von Aktionen in Anwendungen oder im Browser, Code-Tools für benutzerdefinierte serverseitige Logik, MCP-Tools zur Verbindung mit externen Tool-Servern und System-Tools für integrierte Aktionen wie die Weiterleitung an einen menschlichen Agenten.

ElevenLabs bietet außerdem vorgefertigte native Konnektoren für Dienste wie Zendesk, HubSpot, Salesforce und viele weitere. So müssen Sie keine benutzerdefinierten Konfigurationen einrichten. Erfahren Sie mehr über ElevenAgents oder registrieren Sie sich, um noch heute Voice Agents mit Tool Calling zu entwickeln.

Häufige Fragen