AvancéModèles personnalisés

Together AI

Connectez un agent à un LLM personnalisé sur Together AI.

Vue d’ensemble

Together AI fournit un cloud d’accélération IA qui vous permet d’entraîner, d’ajuster et d’exécuter l’inférence de modèles IA à très grande vitesse, à faible coût et à l’échelle de la production.

Exécutez instantanément plus de 200 modèles, dont DeepSeek, Llama3, Mixtral et Stable Diffusion, optimisés pour une latence, un débit et une longueur de contexte de pointe.

Choisir un modèle

Pour exploiter toute la puissance d’ElevenLabs Agents, vous devez utiliser un modèle compatible avec l’utilisation d’outils et les sorties structurées. Together AI prend en charge l’appel de fonctions pour ces modèles :

  • meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo
  • meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo
  • meta-llama/Meta-Llama-3.1-405B-Instruct-Turbo
  • meta-llama/Llama-3.3-70B-Instruct-Turbo
  • mistralai/Mixtral-8x7B-Instruct-v0.1
  • mistralai/Mistral-7B-Instruct-v0.1

Dans cette optique, nous recommandons d’utiliser au moins meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo pour votre agent ElevenLabs Agents.

Configurer Llama 3.1 sur Together AI

1

Accédez à api.together.xyz/settings/api-keys et créez une clé API.

Ajouter un secret

2

Une fois votre clé API créée, vous pouvez la tester en exécutant la commande curl suivante :

curl https://api.together.xyz/v1/chat/completions -s \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <API_KEY>" \
-d '{
"model": "meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo",
"messages": [{
    "role": "user",
    "content": "Hello, how are you?"
}]
}'
3

Accédez à votre agent IA, faites défiler jusqu’à la section « Secrets » et sélectionnez « Ajouter un secret ». Après avoir ajouté le secret, cliquez sur « Enregistrer » pour le rendre accessible à votre agent.

Ajouter un secret

4

Choisissez « LLM personnalisé » dans le menu déroulant.

Choisir un LLM personnalisé

5

Pour l’URL du serveur, indiquez le point de terminaison d’API compatible avec OpenAI de Together AI : https://api.together.xyz/v1. Pour l’ID du modèle, indiquez meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo, comme indiqué ci-dessus, puis sélectionnez votre clé API dans le menu déroulant.

Saisir l’URL

6

Vous pouvez maintenant cliquer sur « Tester l’agent IA » pour discuter avec votre modèle Llama 3.1 personnalisé.