Was ist Tool Calling? Ein vollständiger Leitfaden zur KI-Integration

KI-Modelle nutzen ihre Trainingsdaten und leiten daraus Antworten für Nutzer ab. Doch was passiert, wenn eine Anfrage über den Umfang dieser ursprünglichen Informationen hinausgeht?

Tool Calling hilft, diese Wissens- und Funktionslücken zu schließen. Es ermöglicht einem Modell, zusätzliche Unterstützung von externen Tools und Systemen anzufordern – etwa um eine Aktion wie das Senden eines Updates auszulösen oder Inhalte aus einem Daten-Dashboard abzurufen.

In diesem Artikel erklären wir, was Tool Calling ist, wie es sich von Function Calling unterscheidet und wie ElevenAgents Tool Calling für Workflows mit Conversational AI einsetzt.

Zusammenfassung

• Tool Calling ermöglicht einem KI-Modell, Aktionen auszulösen und Informationen von externen Tools und APIs anzufordern.
• Ein KI-Modell führt ein Tool nicht selbst aus. Stattdessen führt eine Anwendungsschicht die Anfrage aus.
• Tool Calling folgt einem Prozess mit fünf Schritten. Dabei können in derselben Anfrage mehrere Tools aktiviert werden.
• Tool Calling kann für Informationsabruf, Code-Ausführung, Geräteverwaltung sowie Workflow- und Prozessinteraktionen eingesetzt werden.
• ElevenAgents unterstützt Tool Calling in Voice Agents, damit Ihr Conversational-AI-Assistent Aufgaben für Sie erledigen kann.

Was ist Tool Calling?

Tool Calling ist eine Fähigkeit eines KI-Modells, mit einem anderen System zu interagieren. Dieses System kann eine Datenbank, eine API, Software oder alles andere sein, das Funktionen über die Trainingsdaten hinaus ermöglicht. 

Tool Calling erzeugt eine Anfrage an ein Drittsystem, um eine Aufgabe auszuführen, typischerweise im JSON-Format. Ein KI-System nutzt Tool Calling, um externe Systeme abzufragen, Echtzeitinformationen abzurufen, Befehle auszuführen oder Vorgänge durchzuführen. Die Fähigkeit, Tools aufzurufen, ermöglicht agentischer KI, komplexere oder mehrstufige Aufgaben zu erledigen. Dazu greift sie auf externe Ressourcen zu und nutzt Drittsysteme dynamisch.

Die Fähigkeit, Tools aufzurufen, unterscheidet agentische KI-Assistenten von LLMs, die nur auf Basis ihres vorhandenen Wissens antworten können.

Warum ist Tool Calling wichtig?

Large Language Models werden mit riesigen Mengen historischer Daten trainiert, um ihre Fähigkeiten zu entwickeln. Dadurch können sie Nutzern leistungsstark antworten und Informationen bereitstellen. Es fällt ihnen jedoch schwer, über ihren ursprünglichen Trainingskontext und Informationsbestand hinauszugehen. Fragen Sie LLMs nach Informationen außerhalb ihres Bereichs oder ihrer Fähigkeiten, benötigen sie externe Unterstützung.

Tool Calling bietet diese externe Unterstützung. Es ermöglicht LLMs, aktuelle Daten aus anderen Quellen abzurufen oder sich in bereits genutzte Live-Systeme eines Unternehmens zu integrieren, etwa Drittanbieter-APIs oder interne Datenbanken.

Tool Calling bietet KI-Systemen zahlreiche Vorteile:

• Weniger Halluzinationen: Ein System, das Informationen durch direkte Tool-Aufrufe überprüft, arbeitet mit Belegen und Daten. Es erfindet daher weniger wahrscheinlich Informationen oder leitet sie allein aus Trainingsdaten ab.
• Mehr Autonomie und Umfang: Ein LLM mit Tool Calling kann Aktionen ausführen, die über die reine Informationsbereitstellung hinausgehen. 
• Echtzeitantworten: Durch die Abfrage von Live-Quellen kann ein LLM Echtzeitdaten aus Datenbanken oder API-Aufrufen abrufen. So erhalten Sie aktuelle Informationen, die allein auf Basis von Trainingsdaten nicht verfügbar wären.
• Automatisierte mehrstufige Prozesse: Eine Aufgabe, für die Sie sonst mit mehreren Systemen interagieren müssten, wird mit einem LLM mit Tool Calling auf einen Prompt reduziert. Es kann andere Systeme abfragen und Informationen für Sie abrufen, ohne dass Sie das Interaktionsfenster verlassen müssen.

Gartner prognostiziert, dass 40 % der Unternehmensanwendungen bis Ende 2026 mit aufgabenspezifischen KI-Agenten integriert sein werden. 2025 waren es weniger als 5 %. Ein Modell, das für eine Aufgabe das richtige Tool aufrufen kann, erweitert seine Fähigkeiten und ermöglicht Nutzern, mit Prompts in natürlicher Sprache mehr zu erledigen.

Tool Calling vs. Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation und Tool Calling suchen beide nach Daten außerhalb des Kontexts, den die Trainingsdaten eines Modells liefern. Sie konzentrieren sich jedoch auf unterschiedliche Dinge. RAG ist vor allem für statische Inhalte gedacht, etwa Artikel, Dokumente und Wissensdatenbanken, die Sie mit einem Modell verbinden. Es liefert einem LLM zusätzlichen Kontext, der umfassendere Antworten ermöglicht.

Tool Calling dient dem dynamischen Abruf von Informationen, einschließlich sich ständig ändernder Echtzeitsysteme. RAG könnte ein PDF mit Preisen aus einem bestimmten Jahr abrufen, während Tool Calling sofort aktuelle Preise aus einem verbundenen System abrufen könnte. Die meisten LLM-Systeme nutzen beide Fähigkeiten zusammen, da Wissensdatenbanken und Live-Tools für viele Anwendungsfälle wichtig sind.

Wie funktioniert Tool Calling?

Tool Calling folgt einem weitgehend standardisierten Muster – unabhängig davon, ob ein KI-Agent eine interne App oder ein externes Modell aufruft. 

Hier ist ein Überblick über die Funktionsweise von Tool Calling:

1. Erkennen, wann ein Tool-Aufruf nötig ist
2. Das richtige Tool aus verbundenen Systemen auswählen
3. Eine Anfrage erstellen und senden
4. Die Anfrage wird ausgeführt und ein Ergebnis zurückgegeben
5. Das Modell antwortet oder führt eine weitere Aktion aus

Sehen wir uns diese Schritte genauer an.

Schritt 1: Erkennen, wann ein Tool-Aufruf nötig ist

Nachdem Sie eine Anfrage in natürlicher Sprache eingegeben haben, liest ein Modell Ihren Prompt und prüft, ob es externe Unterstützung durch ein Tool benötigt. Eine Frage, die mit seinen Trainingsdaten übereinstimmt, braucht keine externe Hilfe. Einige Fragen gehen jedoch über den Kontext des Modells hinaus.

Fragen wie „Wie hoch waren unsere Umsatzzahlen für Q2 in Salesforce?“ und „Wie viele aktive Nutzer hat unser Shopify-Shop derzeit?“ erfordern beide einen Tool-Aufruf.

Schritt 2: Das richtige Tool aus verbundenen Systemen auswählen

Jedes Tool, auf das ein Modell zugreifen kann, hat ein Schema: einen Namen, eine Beschreibung seiner Funktion in natürlicher Sprache und die Parameter, die es akzeptiert. Ein Modell vergleicht Ihre Anfrage mit jeder dieser Beschreibungen, um das richtige Tool für die Aufgabe zu finden. Besonders wenn ein Agent über einen großen Tool-Katalog verfügt, filtert er intern nach relevanten Tools. Die manuelle Durchsicht von Hunderten Tools würde die Suche nach dem richtigen Tool stark verlangsamen.

Schritt 3: Eine Anfrage erstellen und senden

Nachdem das richtige Tool ausgewählt wurde, erstellt ein Modell einen strukturierten Aufruf, oft im JSON-Format. Dieser Aufruf definiert das Tool und die Inhalte der Anfrage. Eine Wetterabfrage für Bogotá könnte beispielsweise so aussehen: {"name": "get_weather", "arguments": {"city": "Bogota"}}. Ein Modell gibt diesen Aufruf aus, und die Anwendungsschicht führt ihn im nächsten Schritt aus.

Schritt 4: Die Anfrage wird ausgeführt und ein Ergebnis zurückgegeben 

Die Anwendungsschicht empfängt die Anfrage eines Modells und führt das Tool aus oder ruft eine API auf, um die Anfrage auszuführen. Die Antwort wird dann als zusätzlicher Kontext an das ursprüngliche Modell zurückgegeben, das damit seine Antwort an einen Nutzer erstellen kann. 

Schritt 5: Das Modell antwortet oder führt eine weitere Aktion aus

Mit den Daten oder Informationen aus dem Tool-Aufruf antwortet das Modell entweder in natürlicher Sprache oder bestätigt, dass eine bestimmte Aktion ausgeführt wurde. Letzteres geschieht, wenn die gewünschte Aufgabe handlungsorientiert ist, etwa eine Nachricht auf einer bestimmten Plattform zu veröffentlichen oder Daten in eine Datenbank einzutragen.

Wenn die Aufgabe weitere Schritte erfordert, wiederholt das Modell die Schritte 1–4 entsprechend. Komplexere Anfragen können mehrere Tool-Aufrufe benötigen, bevor eine endgültige Antwort erstellt wird. Möchte ein Nutzer beispielsweise einen aktuellen Wechselkurs erfahren und anschließend Währungen umrechnen, muss das Modell mehrere Schritte nacheinander ausführen, um dieses Ziel zu erreichen. 

Arten von Tool Calling

Tool Calling beschreibt jeden Fall, in dem ein Modell ein externes System für Daten aufruft, die über sein zugrunde liegendes Training hinausgehen. Der tatsächliche Prozess kann mehrere verschiedene Systeme einbeziehen. Viele Anwendungsfälle nutzen unterschiedliche Arten von Tools.

• Informationsabruf: Umfasst das Abrufen von Daten aus einer externen Quelle wie einer API, einer verbundenen Unternehmensdatenbank oder einem Suchindex, um eine Frage zu beantworten, die über den ursprünglichen Trainingskontext eines Modells hinausgeht.
• Code-Ausführung: Die Ausführung von Skripten, Datentransformationen oder Berechnungen in einer Code-Umgebung. Sie wird typischerweise für Datenanalysen genutzt, statt nur zu beschreiben, wie eine Analyse in der Praxis funktionieren könnte.
• Prozessautomatisierung: Beschreibt den Fall, dass ein API-Aufruf einen bestimmten Workflow in einem anderen System auslöst, etwa die Interaktion mit einem CMS, die Planung eines Meetings, die Aktualisierung von Datensätzen, das Senden von Benachrichtigungen oder die Umsetzung von Anfragen in abgeschlossene Aktionen. Dies ist besonders häufig in agentischen Systemen, die Aufgaben für einzelne Personen erledigen.
• Geräte- und Systemsteuerung: Tool-Aufrufe, die mit einem anderen Gerät, einem Telefonsystem, einem Smart-Home-Assistenten und mehr interagieren, fallen in diese Kategorie.

Oft lässt sich Tool Calling nicht eindeutig nur einer dieser Kategorien zuordnen. Es kann mehrstufige und verkettete Aufrufe geben, die mehrere der oben genannten Kategorien in einer fortlaufenden Abfolge kombinieren. Sie könnten beispielsweise den Bestellstatus eines Kunden abrufen, dann eine Rückerstattung auslösen, Ihr internes CRM aktualisieren und diese Informationen an einen Live-Agenten weitergeben.

Tool Calling vs. Function Calling: zentrale Unterschiede

Tool Calling ist eine umfassendere Kategorie als Function Calling und deckt einen größeren Bereich sowie vielfältigere mögliche Fähigkeiten ab. Function Calling liegt vor, wenn ein Modell einen strukturierten Aufruf mit Argumenten für eine vordefinierte Funktion erstellt.

Diese Tabelle zeigt die Unterschiede zwischen einem Tool-Aufruf und einem Funktionsaufruf. 

Wie zuverlässig ist Tool Calling? 

Wie zuverlässig Tool Calling ist, hängt vollständig vom Modell ab, das die Aufrufe erstellt. Auch Fehler können sich in verschiedenen Systemen unterschiedlich zeigen. Ein KI-Modell könnte nach einem fehlgeschlagenen Tool-Aufruf beispielsweise einfach eine Antwort halluzinieren, während ein anderes den Nutzer auffordert, es erneut zu versuchen. 

Die Berkeley Function Calling Leaderboard ist eine häufig zitierte Rangliste, die die Leistung verschiedener Modelle beim Tool Calling vergleicht. Sie wird zwar als Rangliste für Function Calling bezeichnet, misst in der Praxis jedoch die Effizienz von Tool Calling. Dazu testet sie Modelle mit API-Aufrufen, Datenbankabfragen, parallelen Aufrufen und Antworten in mehrteiligen Gesprächen.

Modelle werden unter anderem anhand von Gesamtkosten, Websuche, Genauigkeit in mehrteiligen Gesprächen, Halluzinationsmessung und Latenz bewertet. Wenn Sie komplexe oder mehrstufige Workflows ausführen möchten, ist es hilfreich zu wissen, welche Modelle umfassendere Fähigkeiten für Tool Calling bieten. 

Starten Sie mit ElevenAgents für Tool Calling

In ElevenAgents können Sie aus mehreren Modellen wählen und Ihre Workload so dem bestmöglichen zugrunde liegenden Modell zuordnen. Voice Agents nutzen Tools, suchen Bestellungen, prüfen Datensätze, aktualisieren Datenbanken und sammeln Informationen über APIs.

Sie können verschiedene Arten von Tools nutzen: Webhook-Tools zum Aufrufen externer APIs, Client-Tools zum Auslösen von Aktionen in Anwendungen oder einem Browser, Code-Tools für individuelle serverseitige Logik, MCP-Tools zur Verbindung mit externen Tool-Servern sowie System-Tools für integrierte Aktionen wie die Weiterleitung an einen menschlichen Agenten.

ElevenLabs bietet außerdem vorkonfigurierte native Konnektoren für Dienste wie Zendesk, HubSpot, Salesforce und viele weitere. So müssen Sie keine individuellen Konfigurationen erstellen. Erfahren Sie mehr über ElevenAgents oder registrieren Sie sich, um noch heute Voice Agents mit Tool Calling zu erstellen.

FAQ