AvancéModèles personnalisés

Groq Cloud

Connectez un agent à un LLM personnalisé sur Groq Cloud.

Vue d’ensemble

Groq Cloud offre un accès simple à une inférence IA rapide, avec des points de terminaison API compatibles avec OpenAI en quelques clics.

Utilisez des modèles librement accessibles de premier plan tels que Llama, Mixtral et Gemma comme cerveau de vos agents ElevenLabs, en quelques étapes simples.

Choisir un modèle

Pour exploiter pleinement la puissance des agents ElevenLabs, vous devez utiliser un modèle qui prend en charge l’utilisation d’outils et les sorties structurées. Groq recommande les modèles Llama-3.3 suivants pour leur polyvalence et leurs performances :

  • meta-llama/llama-4-scout-17b-16e-instruct (fenêtre de contexte de 10 M de tokens) et prise en charge de 12 langues (arabe, anglais, français, allemand, hindi, indonésien, italien, portugais, espagnol, tagalog, thaï et vietnamien)
  • llama-3.3-70b-versatile (fenêtre de contexte de 128 k | 32 768 tokens de sortie maximum)
  • llama-3.1-8b-instant (fenêtre de contexte de 128 k | 8 192 tokens de sortie maximum)

Dans cette optique, nous vous recommandons d’utiliser meta-llama/llama-4-scout-17b-16e-instruct pour votre agent ElevenLabs Agents.

Configurer Llama 3.3 sur Groq Cloud

1

Accédez à console.groq.com/keys et créez une nouvelle clé API.

Ajouter un secret

2

Une fois votre clé API obtenue, vous pouvez la tester en exécutant la commande curl suivante :

curl https://api.groq.com/openai/v1/chat/completions -s \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $GROQ_API_KEY" \
-d '{
"model": "llama-3.3-70b-versatile",
"messages": [{
    "role": "user",
    "content": "Hello, how are you?"
}]
}'
3

Accédez à votre agent IA, faites défiler jusqu’à la section « Secrets » et sélectionnez « Add Secret ». Après avoir ajouté le secret, cliquez sur « Save » afin de le rendre disponible pour votre agent.

Ajouter un secret

4

Choisissez « Custom LLM » dans le menu déroulant.

Choisir un LLM personnalisé

5

Pour l’URL du serveur, indiquez le point de terminaison API compatible avec OpenAI de Groq : https://api.groq.com/openai/v1. Pour l’ID du modèle, indiquez meta-llama/llama-4-scout-17b-16e-instruct comme indiqué ci-dessus, puis sélectionnez votre clé API dans le menu déroulant.

Saisir l’URL

6

Vous pouvez maintenant cliquer sur « Test AI Agent » pour discuter avec votre modèle Llama 3.3 personnalisé.