Was ist Tool Calling? Ein vollständiger Leitfaden zur KI-Integration

KI-Modelle greifen für Antworten auf Nutzende auf ihre Trainingsdaten zurück und leiten daraus Erkenntnisse ab. Doch was passiert, wenn eine Anfrage über diese anfänglichen Informationen hinausgeht?

Tool Calling hilft, diese Wissens- und Funktionslücken zu schließen. Es ermöglicht einem Modell, zusätzliche Hilfe von externen Tools und Systemen anzufordern – etwa um eine Aktion wie das Senden eines Updates auszulösen oder Inhalte aus einem Daten-Dashboard abzurufen.

In diesem Artikel erfahren Sie, was Tool Calling ist, wie es sich von Function Calling unterscheidet und wie ElevenAgents Tool Calling für Workflows für konversationelle KI einsetzt.

Zusammenfassung

• Tool Calling ermöglicht einem KI-Modell, Aktionen auszulösen und Informationen von externen Tools und APIs anzufordern.
• Ein KI-Modell führt ein Tool nicht selbst aus. Stattdessen führt eine Anwendungsschicht die Anfrage aus.
• Tool Calling folgt einem Prozess mit fünf Schritten, bei dem mehrere unterschiedliche Tools innerhalb derselben Anfrage aktiviert werden können.
• Tool Calling kann für Informationsabruf, Codeausführung, Gerätesteuerung oder die Interaktion mit Workflows und Prozessen eingesetzt werden.
• ElevenAgents unterstützt Tool Calling in Voice Agents, sodass Ihr Assistent für konversationelle KI Aufgaben für Sie erledigen kann.

Was ist Tool Calling?

Tool Calling ist eine Fähigkeit eines KI-Modells, die ihm die Interaktion mit einem anderen System ermöglicht. Dieses System kann eine Datenbank, eine API, eine Software oder alles andere sein, womit das Modell Funktionen ausführen kann, die über seine Trainingsdaten hinausgehen. 

Tool Calling erstellt eine Anfrage an ein Drittsystem, um eine Aufgabe auszuführen, üblicherweise im JSON-Format. Ein KI-System nutzt Tool Calling, um externe Systeme abzufragen, Echtzeitinformationen abzurufen, Befehle auszuführen oder Vorgänge durchzuführen. Die Fähigkeit, Tools aufzurufen, ermöglicht agentenbasierter KI, komplexere oder mehrstufige Aufgaben zu erledigen, indem sie auf externe Ressourcen zugreift und Drittsysteme dynamisch nutzt.

Die Fähigkeit, Tools aufzurufen, unterscheidet agentenbasierte KI-Assistenten von LLMs, die nur auf Grundlage ihres vorhandenen Wissens antworten können.

Warum ist Tool Calling wichtig?

Large Language Models werden mit riesigen Mengen historischer Daten trainiert, um ihre Fähigkeiten zu entwickeln. Dadurch können sie Nutzenden leistungsstark antworten und Informationen bereitstellen, doch sie können nur schwer über ihren ursprünglichen Trainingskontext und Informationsbestand hinausgehen. Wenn Sie LLMs nach Informationen fragen, die außerhalb ihres Umfangs oder ihrer Fähigkeiten liegen, benötigen sie externe Hilfe.

Tool Calling ist diese externe Unterstützung. Es ermöglicht LLMs, aktuelle Daten aus anderen Quellen abzurufen oder sich in Live-Systeme zu integrieren, die ein Unternehmen bereits nutzt, etwa Drittanbieter-APIs oder interne Datenbanken.

Tool Calling bietet KI-Systemen zahlreiche Vorteile:

• Weniger Halluzinationen: Ein System, das Informationen durch direkte Tool-Aufrufe prüft, arbeitet mit Belegen und Daten, statt Informationen möglicherweise zu erfinden oder aus Trainingsdaten abzuleiten.
• Mehr Autonomie und Umfang: Ein LLM mit Tool Calling kann Aktionen ausführen, die über die bloße Bereitstellung von Informationen hinausgehen. 
• Echtzeitantworten: Durch die Abfrage von Live-Quellen kann ein LLM Echtzeitdaten aus Datenbanken oder API-Aufrufen abrufen. So erhalten Sie aktuelle Informationen, die allein anhand von Trainingsdaten nicht verfügbar wären.
• Automatisierte mehrstufige Prozesse: Eine Aufgabe, für die Sie mit mehreren verschiedenen Systemen interagieren müssten, wird mit einem LLM mit Tool Calling auf einen Prompt reduziert. Es kann andere Systeme abfragen und Informationen für Sie abrufen, ohne dass Sie das Interaktionsfenster verlassen müssen.

Gartner prognostiziert, dass 40 % der Unternehmensanwendungen bis Ende 2026 mit aufgabenspezifischen KI-Agenten integriert sein werden – gegenüber weniger als 5 % im Jahr 2025. Ein Modell, das für eine Aufgabe das richtige Tool aufrufen kann, erweitert seine Fähigkeiten und ermöglicht Nutzenden, mit Prompts in natürlicher Sprache mehr zu erledigen.

Tool Calling vs. Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation und Tool Calling dienen beide dazu, Daten außerhalb des durch die Trainingsdaten eines Modells bereitgestellten Kontexts zu suchen, setzen jedoch unterschiedliche Schwerpunkte. RAG ist hauptsächlich für statische Inhalte gedacht, etwa Artikel, Dokumente und Wissensdatenbanken, die Sie mit einem Modell verbinden. Es versorgt ein LLM mit zusätzlichem Kontext, der umfassendere Antworten ermöglicht.

Tool Calling dient dem dynamischen Abruf von Informationen, einschließlich Echtzeitsystemen, die sich laufend ändern. RAG kann eine PDF-Datei mit Preisen aus einem bestimmten Jahr abrufen, während Tool Calling aktuelle Preise sofort aus einem verbundenen System erfassen kann. Die meisten LLM-Systeme nutzen diese Fähigkeiten gemeinsam, da Wissensdatenbanken und Live-Tools für viele Anwendungsfälle wichtig sind.

Wie funktioniert Tool Calling?

Tool Calling folgt einem weitgehend standardisierten Muster, unabhängig davon, ob ein KI-Agent eine interne App oder ein externes Modell aufruft. 

Hier ist ein Überblick darüber, wie Tool Calling funktioniert:

1. Erkennen, wann ein Tool-Aufruf erforderlich ist
2. Das richtige Tool aus verbundenen Systemen auswählen
3. Eine Anfrage erstellen und senden
4. Die Anfrage wird ausgeführt und ein Ergebnis zurückgegeben
5. Das Modell antwortet oder führt weitere Aktionen aus

Sehen wir uns diese Schritte genauer an.

Schritt 1: Erkennen, wann ein Tool-Aufruf erforderlich ist

Nachdem Sie eine Anfrage in natürlicher Sprache eingegeben haben, liest ein Modell Ihren Prompt und bewertet, ob es externe Hilfe durch ein Tool benötigt. Eine Frage, die mit seinen Trainingsdaten übereinstimmt, braucht keine externe Hilfe. Manche Fragen, etwa solche, die über den Kontext des Modells hinausgehen, jedoch schon.

Fragen wie „Wie hoch waren unsere Umsatzzahlen im zweiten Quartal in Salesforce?“ und „Wie viele aktive Nutzende hat unser Shopify-Store aktuell?“ erfordern beide einen Tool-Aufruf.

Schritt 2: Das richtige Tool aus verbundenen Systemen auswählen

Jedes Tool, auf das ein Modell zugreifen kann, hat ein Schema: einen Namen, eine Beschreibung seiner Funktion in natürlicher Sprache und die Parameter, die es akzeptiert. Ein Modell vergleicht Ihre Anfrage mit jeder dieser Beschreibungen, um das passende Tool für die Aufgabe zu finden. Besonders wenn ein Agent über einen großen Tool-Katalog verfügt, führt er intern einen Filterprozess durch, um relevante Tools zu finden. Hunderte Tools manuell zu durchsuchen, würde die Suche nach dem richtigen Tool stark verlangsamen.

Schritt 3: Eine Anfrage erstellen und senden

Nachdem das richtige Tool ausgewählt wurde, erstellt ein Modell einen strukturierten Aufruf, häufig im JSON-Format. Dieser Aufruf definiert das Tool und den Inhalt der Anfrage. Eine Wetterabfrage für Bogotá könnte beispielsweise so aussehen: {"name": "get_weather", "arguments": {"city": "Bogota"}}. Ein Modell gibt diesen Aufruf aus, und die Anwendungsschicht führt ihn im nächsten Schritt aus.

Schritt 4: Die Anfrage wird ausgeführt und ein Ergebnis zurückgegeben 

Die Anwendungsschicht empfängt die Anfrage eines Modells und führt das Tool aus oder ruft eine API auf, um die Anfrage auszuführen. Die Antwort wird dann als zusätzlicher Kontext an das ursprüngliche Modell zurückgegeben, das sie für seine Antwort an Nutzende verwenden kann. 

Schritt 5: Das Modell antwortet oder führt weitere Aktionen aus

Mit den Daten oder Informationen aus dem Tool-Aufruf antwortet das Modell entweder in natürlicher Sprache oder bestätigt, dass eine bestimmte Aktion ausgeführt wurde. Letzteres geschieht, wenn die gewünschte Aufgabe handlungsorientiert ist, etwa eine Nachricht auf einer bestimmten Plattform zu veröffentlichen oder Daten in eine Datenbank einzugeben.

Wenn die Aufgabe weitere Schritte erfordert, wiederholt das Modell die Schritte 1–4 entsprechend. Bei komplexeren Anfragen müssen möglicherweise mehrere Tools aufgerufen werden, bevor eine endgültige Antwort für Nutzende erstellt werden kann. Wenn ein Nutzer beispielsweise einen aktuellen Wechselkurs wissen und anschließend Währungen umrechnen möchte, muss das Modell mehrere Schritte nacheinander ausführen, um dieses Ziel zu erreichen. 

Arten von Tool Calling

Tool Calling beschreibt jeden Fall, in dem ein Modell ein externes System für Daten aufruft, die über sein zugrunde liegendes Training hinausgehen. Der tatsächliche Prozess kann mehrere verschiedene Systeme einbeziehen, wobei unterschiedliche Anwendungsfälle verschiedene Arten von Tools nutzen.

• Informationsabruf: Umfasst das Abrufen von Daten aus einer externen Quelle wie einer API, einer verbundenen Unternehmensdatenbank oder einem Suchindex, um eine Frage zu beantworten, die über den ursprünglichen Trainingskontext eines Modells hinausgeht.
• Codeausführung: Die Ausführung von Skripten, Datentransformationsprozessen oder Berechnungen in einer Code-Umgebung. Dies wird typischerweise zur Datenanalyse verwendet, statt nur zu beschreiben, wie eine Analyse in der Praxis funktionieren könnte.
• Prozessautomatisierung: Beschreibt, wenn ein API-Aufruf einen bestimmten Workflow in einem anderen System auslöst, etwa die Interaktion mit einem CMS, die Planung eines Meetings, das Aktualisieren von Datensätzen, das Senden von Benachrichtigungen oder das Umwandeln von Anfragen in abgeschlossene Aktionen. Das ist besonders häufig bei agentenbasierten Systemen, die Aufgaben für einzelne Personen erledigen.
• Geräte- und Systemsteuerung: Tool-Aufrufe, die mit einem anderen Gerät, einem Telefonsystem, einem Smart-Home-Assistenten und mehr interagieren, fallen in diese Kategorie.

Tool Calling fällt oft nicht eindeutig in nur eine dieser Kategorien. Es kann mehrstufige und verkettete Aufrufe geben, die mehrere der oben genannten Kategorien in einer fortlaufenden Abfolge kombinieren. So könnten Sie beispielsweise den Bestellstatus eines Kunden abrufen, dann eine Rückerstattung auslösen, Ihr internes CRM aktualisieren und diese Information an einen Live-Agenten weitergeben.

Tool Calling vs. Function Calling: zentrale Unterschiede

Tool Calling ist eine umfassendere Kategorie als Function Calling und deckt einen größeren Umfang sowie ein vielfältigeres Spektrum potenzieller Funktionen ab. Function Calling liegt vor, wenn ein Modell einen strukturierten Aufruf mit Argumenten an eine vordefinierte Funktion generiert.

Die folgende Tabelle zeigt die Unterschiede zwischen einem Tool-Aufruf und einem Funktionsaufruf. 

Wie zuverlässig ist Tool Calling? 

Wie zuverlässig Tool Calling ist, hängt vollständig vom Modell ab, das die Aufrufe ausführt. Auch Fehler können sich in verschiedenen Systemen unterschiedlich zeigen. Ein KI-Modell kann nach einem fehlgeschlagenen Tool-Aufruf beispielsweise einfach eine Antwort halluzinieren, während ein anderes Nutzende auffordert, es erneut zu versuchen. 

Die Berkeley Function Calling Leaderboard ist eine häufig zitierte Rangliste, die vergleicht, wie verschiedene Modelle beim Tool Calling abschneiden. Sie wird zwar als Function-Calling-Rangliste bezeichnet, misst in der Praxis jedoch die Effizienz von Tool Calling: Sie testet Modelle anhand von API-Aufrufen, dem Abruf von Informationen durch Datenbankabfragen, parallelen Aufrufen und Antworten in mehrteiligen Gesprächen.

Modelle werden unter anderem hinsichtlich Gesamtkosten, Fähigkeit zur Websuche, Genauigkeit in mehrteiligen Gesprächen, Halluzinationsmessung und Latenz untersucht. Wenn Sie komplexe oder mehrstufige Workflows ausführen möchten, ist es nützlich zu wissen, welche Modelle umfassendere Tool-Calling-Fähigkeiten bieten. 

Starten Sie mit ElevenAgents für Tool Calling

In ElevenAgents können Sie aus mehreren Modellen auswählen und Ihre Arbeitslast dem bestmöglichen zugrunde liegenden Modell zuordnen. Voice Agents nutzen Tools, suchen Bestellungen, prüfen Datensätze, aktualisieren Datenbanken und sammeln Informationen aus APIs.

Sie können verschiedene Arten von Tools nutzen: Webhook-Tools zum Aufrufen externer APIs, Client-Tools zum Auslösen von Aktionen in Anwendungen oder im Browser, Code-Tools für benutzerdefinierte serverseitige Logik, MCP-Tools zur Verbindung mit externen Tool-Servern und System-Tools für integrierte Aktionen wie die Weiterleitung an einen menschlichen Agenten.

ElevenLabs bietet außerdem vorkonfigurierte native Konnektoren für Dienste wie Zendesk, HubSpot, Salesforce und viele weitere. So müssen Sie keine eigenen Konfigurationen erstellen. Erfahren Sie mehr über ElevenAgents oder registrieren Sie sich, um noch heute Voice Agents mit Tool Calling zu erstellen.

FAQ