Skip to navigation
GeavanceerdAangepaste modellen

Groq Cloud

Koppel een agent aan een aangepast LLM op Groq Cloud.

Overzicht

Groq Cloud biedt eenvoudig toegang tot snelle AI-inferentie en geeft je met een paar klikken OpenAI-compatibele API-endpoints.

Gebruik toonaangevende vrij beschikbare modellen, zoals Llama, Mixtral en Gemma, als het brein van je ElevenLabs-agents in enkele eenvoudige stappen.

Een model kiezen

Om alle mogelijkheden van ElevenLabs-agents te benutten, moet je een model gebruiken dat toolgebruik en gestructureerde uitvoer ondersteunt. Groq raadt vanwege hun veelzijdigheid en prestaties de volgende Llama-3.3-modellen aan:

  • meta-llama/llama-4-scout-17b-16e-instruct (contextvenster van 10M tokens) en ondersteuning voor 12 talen (Arabisch, Engels, Frans, Duits, Hindi, Indonesisch, Italiaans, Portugees, Spaans, Tagalog, Thais en Vietnamees)
  • llama-3.3-70b-versatile (contextvenster van 128k | maximaal 32.768 outputtokens)
  • llama-3.1-8b-instant (contextvenster van 128k | maximaal 8.192 outputtokens)

Daarom raden we aan om meta-llama/llama-4-scout-17b-16e-instruct te gebruiken voor je ElevenLabs Agents-agent.

Llama 3.3 instellen op Groq Cloud

1

Ga naar console.groq.com/keys en maak een nieuwe API-sleutel.

Geheim toevoegen

2

Zodra je je API-sleutel hebt, kun je deze testen door het volgende curl-commando uit te voeren:

curl https://api.groq.com/openai/v1/chat/completions -s \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $GROQ_API_KEY" \
-d '{
"model": "llama-3.3-70b-versatile",
"messages": [{
    "role": "user",
    "content": "Hello, how are you?"
}]
}'
3

Ga naar je AI Agent, scrol omlaag naar het gedeelte “Secrets” en selecteer “Add Secret”. Klik na het toevoegen van het geheim op “Save”, zodat het geheim beschikbaar is voor je agent.

Geheim toevoegen

4

Kies “Custom LLM” in het dropdownmenu.

Aangepast LLM kiezen

5

Geef bij de server-URL het OpenAI-compatibele API-endpoint van Groq op: https://api.groq.com/openai/v1. Geef bij de model-ID meta-llama/llama-4-scout-17b-16e-instruct op, zoals hierboven besproken, en selecteer je API-sleutel in het dropdownmenu.

URL invoeren

6

Klik nu op “Test AI Agent” om te chatten met je aangepaste Llama 3.3-model.