> This is a page from the ElevenLabs documentation. For a complete page index, fetch https://elevenlabs.io/docs/llms.txt. For the full documentation in a single file, fetch https://elevenlabs.io/docs/llms-full.txt.

# Together AI

## Überblick

[Together AI](https://www.together.ai/) bietet eine KI-Accelerator-Cloud, mit der Sie KI-Modelle extrem schnell, kostengünstig und im Produktionsmaßstab trainieren, finetunen und für Inferenz ausführen können.

Führen Sie sofort [über 200 Modelle](https://together.xyz/models) aus, darunter DeepSeek, Llama3, Mixtral und Stable Diffusion. Sie sind für maximale Latenz, maximalen Durchsatz und Kontextlänge optimiert.

## Modell auswählen

Um die volle Leistung von ElevenLabs Agents zu nutzen, benötigen Sie ein Modell, das Tool-Nutzung und strukturierte Ausgaben unterstützt. Together AI unterstützt Function Calling für [diese Modelle](https://docs.together.ai/docs/function-calling):

* meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo
* meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo
* meta-llama/Meta-Llama-3.1-405B-Instruct-Turbo
* meta-llama/Llama-3.3-70B-Instruct-Turbo
* mistralai/Mixtral-8x7B-Instruct-v0.1
* mistralai/Mistral-7B-Instruct-v0.1

Daher empfehlen wir für Ihren ElevenLabs-Agents-Agenten mindestens `meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo`.

## Llama 3.1 auf Together AI einrichten

Rufen Sie [api.together.xyz/settings/api-keys](https://api.together.xyz/settings/api-keys) auf und erstellen Sie einen neuen API-Schlüssel.

![Secret hinzufügen](/docs/_fern-img/97323ef6ffb761b54a7b5c4183054bc1fd621d1069a38cbeb474444e84de75f4.webp)

Sobald Sie Ihren API-Schlüssel haben, können Sie ihn mit folgendem curl-Befehl testen:

```bash
curl https://api.together.xyz/v1/chat/completions -s \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <API_KEY>" \
-d '{
"model": "meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo",
"messages": [{
    "role": "user",
    "content": "Hello, how are you?"
}]
}'
```

Rufen Sie Ihren [KI-Agenten](https://elevenlabs.io/app/agents) auf, scrollen Sie zum Bereich „Secrets“ und wählen Sie „Add Secret“ aus. Klicken Sie nach dem Hinzufügen des Secrets unbedingt auf „Save“, damit es für Ihren Agenten verfügbar ist.

![Secret hinzufügen](/docs/_fern-img/43e5478a3c62f31d2d9f66f9919e7c4c1b5878e3b79681d08741221ce3e689d8.webp)

Wählen Sie „Custom LLM“ im Dropdown-Menü aus.

![Benutzerdefiniertes LLM auswählen](/docs/_fern-img/45ec75f558a5c8e5070bd3170d96cbc54ef63e15d9f04ac472a45854a22a17ac.webp)

Geben Sie als Server-URL den OpenAI-kompatiblen API-Endpunkt von Together AI an: `https://api.together.xyz/v1`. Geben Sie als Modell-ID wie oben beschrieben `meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo` an und wählen Sie Ihren API-Schlüssel im Dropdown-Menü aus.

![URL eingeben](/docs/_fern-img/94d7f96a16d483327751195b306431b5d7c0e4df237510b74d7e98f28b58efe1.webp)

Klicken Sie jetzt auf „Test AI Agent“, um mit Ihrem benutzerdefinierten Llama-3.1-Modell zu chatten.