> This is a page from the ElevenLabs documentation. For a complete page index, fetch https://elevenlabs.io/docs/llms.txt. For the full documentation in a single file, fetch https://elevenlabs.io/docs/llms-full.txt.

# Groq Cloud

## Überblick

[Groq Cloud](https://console.groq.com/) bietet einfachen Zugriff auf schnelle KI-Inferenz und stellt Ihnen mit wenigen Klicks OpenAI-kompatible API-Endpunkte bereit.

Nutzen Sie führende [öffentlich verfügbare Modelle](https://console.groq.com/docs/overview/models) wie Llama, Mixtral und Gemma als Gehirn für Ihre ElevenLabs-Agenten – in wenigen einfachen Schritten.

## Modell auswählen

Um das volle Potenzial von ElevenLabs-Agenten zu nutzen, benötigen Sie ein Modell, das Tool-Nutzung und strukturierte Ausgaben unterstützt. Groq empfiehlt aufgrund ihrer Vielseitigkeit und Leistung die folgenden Llama-3.3-Modelle:

* meta-llama/llama-4-scout-17b-16e-instruct (10 Mio. Token Kontextfenster) mit Unterstützung für 12 Sprachen (Arabisch, Englisch, Französisch, Deutsch, Hindi, Indonesisch, Italienisch, Portugiesisch, Spanisch, Tagalog, Thai und Vietnamesisch)
* llama-3.3-70b-versatile (128k Kontextfenster | 32.768 maximale Output-Tokens)
* llama-3.1-8b-instant (128k Kontextfenster | 8.192 maximale Output-Tokens)

Daher wird für Ihren ElevenLabs-Agents-Agenten `meta-llama/llama-4-scout-17b-16e-instruct` empfohlen.

## Llama 3.3 in Groq Cloud einrichten

Öffnen Sie [console.groq.com/keys](https://console.groq.com/keys) und erstellen Sie einen neuen API-Schlüssel.

![Secret hinzufügen](/docs/_fern-img/2dc1bdac30871fb4059a394b8edfedd4cf953f8e1f787ca8b807a9f195e7fdf3.webp)

Sobald Sie Ihren API-Schlüssel haben, können Sie ihn mit dem folgenden curl-Befehl testen:

```bash
curl https://api.groq.com/openai/v1/chat/completions -s \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $GROQ_API_KEY" \
-d '{
"model": "llama-3.3-70b-versatile",
"messages": [{
    "role": "user",
    "content": "Hello, how are you?"
}]
}'
```

Öffnen Sie Ihren [KI-Agenten](https://elevenlabs.io/app/agents), scrollen Sie zum Bereich „Secrets“ und wählen Sie „Add Secret“. Klicken Sie nach dem Hinzufügen des Secrets auf „Save“, damit es für Ihren Agenten verfügbar ist.

![Secret hinzufügen](/docs/_fern-img/464e123d926fbd9e6986a382af8da55d9f3861d1e593bb1f4b41ba33bed67ae1.webp)

Wählen Sie im Dropdown-Menü „Custom LLM“.

![Benutzerdefiniertes LLM auswählen](/docs/_fern-img/45ec75f558a5c8e5070bd3170d96cbc54ef63e15d9f04ac472a45854a22a17ac.webp)

Geben Sie für die Server-URL den OpenAI-kompatiblen API-Endpunkt von Groq an: `https://api.groq.com/openai/v1`. Geben Sie für die Modell-ID wie oben beschrieben `meta-llama/llama-4-scout-17b-16e-instruct` an und wählen Sie Ihren API-Schlüssel im Dropdown-Menü aus.

![URL eingeben](/docs/_fern-img/70555982e71101023f8e988102ab505c964fd6796a190a9bce74f3c0ed1b56be.webp)

Klicken Sie jetzt auf „Test AI Agent“, um mit Ihrem benutzerdefinierten Llama-3.3-Modell zu chatten.