Modèles

ElevenAgents fournit une interface unifiée pour connecter votre agent à plusieurs modèles et fournisseurs, avec flexibilité, fiabilité et optimisation des coûts.

Au lieu de choisir un modèle ici, les agents vocaux peuvent utiliser un modèle Realtime, un modèle ElevenLabs conçu pour les conversations vocales à faible latence.

Fonctionnalités clés

• Accès unifié : passez d’un fournisseur et d’un modèle à l’autre avec un minimum de modifications du code
• Haute fiabilité : basculez automatiquement d’un fournisseur à un autre en cas de défaillance
• Suivi des dépenses : suivez vos dépenses sur les différents modèles

Modèles pris en charge

Les modèles suivants sont actuellement pris en charge nativement et peuvent être configurés dans les paramètres de l’agent :

LLM personnalisé

Vous pouvez utiliser votre propre LLM personnalisé en indiquant l’endpoint auquel nous devons envoyer les requêtes et en fournissant des identifiants via notre stockage sécurisé des secrets. En savoir plus sur l’intégration de LLM personnalisés.

Choisir un modèle

Pour sélectionner le LLM le plus adapté à votre application, prenez en compte plusieurs facteurs :

• Complexité des tâches : évaluez les modèles sur des tâches représentatives de votre application
• Exigences de latence : pour les conversations vocales en direct, choisissez un modèle à faible latence et mesurez le temps de réponse avec vos prompts et vos outils
• Taille de la fenêtre de contexte : si votre application doit traiter, comprendre ou mémoriser des informations issues de longues conversations ou de documents volumineux, sélectionnez des modèles avec des fenêtres de contexte plus grandes
• Rapport coût-efficacité : équilibrez les performances et fonctionnalités souhaitées avec votre budget. Les prix des LLM peuvent varier considérablement ; analysez donc la structure tarifaire, pour les jetons d’entrée, de sortie et de cache, en fonction de vos habitudes d’utilisation prévues
• Conformité HIPAA : si votre application traite des informations de santé protégées (PHI), il est essentiel d’utiliser un LLM désigné comme conforme à HIPAA et de veiller à ce que l’ensemble de votre processus de traitement des données respecte les normes réglementaires

Configuration du modèle

Température

La température contrôle le caractère aléatoire des réponses du modèle. Des valeurs faibles produisent des résultats plus cohérents et ciblés, tandis que des valeurs élevées augmentent la créativité et la diversité.

• Faible (0,0-0,3) : réponses déterministes et cohérentes pour les interactions structurées
• Moyenne (0,4-0,7) : équilibre entre créativité et cohérence
• Élevée (0,8-1,0) : réponses créatives et variées pour les conversations dynamiques

Configuration des LLM de secours

Configurez des LLM de secours afin d’assurer la continuité des conversations lorsque le LLM principal échoue ou devient indisponible.

Options de configuration :

• Par défaut : utilise la séquence de repli recommandée par ElevenLabs
• Personnalisée : définissez votre propre séquence en cascade de modèles de secours
• Désactivée : aucun repli, fortement déconseillé en production

En savoir plus sur la mise en cascade des LLM.

Raisonnement

Le raisonnement aide les agents à gérer des décisions complexes, comme choisir entre plusieurs outils, appliquer des politiques ou exécuter des workflows en plusieurs étapes. Selon le modèle, vous contrôlez la quantité de raisonnement effectuée à l’aide d’un budget de réflexion ou d’un niveau d’effort de raisonnement.

Budget de réflexion

Définissez le nombre maximal de jetons de raisonnement avec le curseur numérique. Des budgets plus élevés peuvent augmenter le temps de réponse. Définissez le budget sur 0 pour désactiver la réflexion lorsque le modèle le permet.

Effort de raisonnement

L’effort de raisonnement contrôle la quantité de raisonnement effectuée par le modèle avant de répondre. Les niveaux disponibles dépendent du modèle sélectionné.

Résumé du raisonnement

Activez le résumé du raisonnement pour capturer le raisonnement renvoyé par le modèle lors du débogage des réponses, des appels d’outils ou des parcours de workflow. Activez Résumé du raisonnement dans les paramètres LLM de l’agent, ou définissez enable_reasoning_summary via l’API. Ce paramètre est désactivé par défaut.

Pour les endpoints personnalisés, consultez comment ElevenLabs demande et stocke le raisonnement.

Le contenu du raisonnement est soumis aux paramètres de conservation et de masquage des informations personnelles identifiables. Vous pouvez y accéder par les canaux suivants :

Limites

• La demande d’un résumé du raisonnement peut augmenter la latence de réponse. Testez-la avant de l’activer sur des agents vocaux sensibles à la latence.
• Les fournisseurs peuvent renvoyer un résumé, du texte de réflexion, des deltas de raisonnement bruts ou aucun contenu affichable.

Comprendre la tarification

• Jetons : l’utilisation des LLM est généralement facturée en fonction du nombre de jetons traités. À titre indicatif, pour un texte anglais, 100 jetons équivalent approximativement à 75 mots
• Tarification des entrées et des sorties : les fournisseurs différencient souvent la tarification des jetons d’entrée, les données envoyées au modèle, et des jetons de sortie, les données générées par le modèle en réponse
• Tarification du cache :
  • input_cache_read : correspond au coût lié à la récupération de données d’entrée précédemment traitées depuis un cache. L’utilisation de données mises en cache peut réduire les coûts si des entrées identiques sont traitées plusieurs fois
  • input_cache_write : correspond au coût lié au stockage de données d’entrée dans un cache. Certains fournisseurs de LLM peuvent facturer cette opération
• Les prix indiqués dans ce document sont exprimés par million de jetons et reposent sur les informations disponibles au moment de la rédaction. Ces prix sont susceptibles d’être modifiés par les fournisseurs de LLM
• Tarification sans marge : ElevenLabs répercute les coûts des LLM tiers au tarif publié par le fournisseur, sans marge. Certains modèles Gemini et Claude sont alignés sur la tarification régionale, non mondiale, de Vertex AI, applicable au trafic américain et européen, soit une hausse de 10 % des jetons d’entrée, de sortie et de cache, conformément aux tarifs régionaux de Vertex

Pour connaître les capacités actuelles des modèles, leur tarification et leurs conditions d’utilisation, consultez la documentation du fournisseur.

Conformité HIPAA

Certains LLM disponibles sur notre plateforme peuvent convenir à une utilisation dans des environnements exigeant la conformité HIPAA. Consultez la documentation sur la conformité HIPAA pour plus de détails.

Ressources associées

• Intégration de LLM personnalisés
• Mise en cascade des LLM
• Optimiser les coûts

Modèles hébergés par ElevenLabs

ElevenLabs donne accès à différents modèles IA, dont certains modèles tiers hébergés par ElevenLabs.

Lorsqu’un modèle est désigné comme « Hébergé par ElevenLabs », il est déployé et exploité sur une infrastructure gérée par ElevenLabs. Ces modèles sont actuellement hébergés aux États-Unis ou dans la région de votre déploiement Enterprise.

Identifier les modèles hébergés par ElevenLabs

Les modèles hébergés par ElevenLabs sont clairement identifiés dans l’interface ElevenLabs. Recherchez la mention « Hébergé par ElevenLabs » lorsque vous parcourez ou sélectionnez des modèles.

Traitement de vos données

Pour les modèles hébergés par ElevenLabs, les requêtes sont traitées au sein d’une infrastructure gérée par ElevenLabs. Le fournisseur d’origine du modèle ne reçoit donc pas, n’accède pas et ne traite pas les entrées et sorties envoyées via ElevenLabs.

En hébergeant ces modèles, ElevenLabs garantit une expérience cohérente tout en gardant le contrôle de l’infrastructure utilisée pour traiter les requêtes de modèle.

Questions fréquentes

Où sont hébergés les modèles auto-hébergés ?

Les modèles hébergés par ElevenLabs sont actuellement hébergés sur une infrastructure située aux États-Unis ou dans la région de votre déploiement Enterprise.

Le fournisseur d’origine du modèle accède-t-il à mes données ou aux métadonnées de mon utilisation ?

Pour les modèles hébergés par ElevenLabs, le développeur d’origine du modèle ne reçoit jamais vos entrées ou sorties et n’a pas accès aux données relatives au déploiement qui les traite.

Comment savoir si un modèle est hébergé par ElevenLabs ?

Les modèles hébergés par ElevenLabs sont clairement identifiés dans l’interface ElevenLabs par la mention « Hébergé par ElevenLabs ».