Comment concevoir un assistant vocal IA : une IA vocale alignée sur votre marque
- Rédigé par
- Jack Limebear
- Publié
- Dernière mise à jour
ÉcouterÉcouter cet article
Imaginez appeler un magasin pour demander un remboursement, être accueilli par une IA à l'apparence humaine et recevoir l'argent sur votre compte bancaire en quelques minutes. Chaque interaction se déroule de façon fluide, sans intervention du personnel d'assistance. Jadis considérés comme fictifs, les assistants vocaux propulsés par l'IA, capables de gérer des cas d'usage complexes, sont désormais une réalité.
De plus en plus d'entreprises adoptent les assistants vocaux IA pour leurs applications destinées aux clients. Propulsés par des agents vocaux de pointe et l'IA générative, ces assistants prennent en charge la détection des intentions, les réponses à faible latence et les intégrations fonctionnelles pour de nombreux cas d'usage.
Avec des outils comme ElevenAgents, intégrer des assistants vocaux à vos processus de service client n'a jamais été aussi simple. Pour concevoir un assistant vocal IA, définissez sa mission, puis connectez la transcription vocale, un LLM et la synthèse vocale dans une même chaîne de traitement en temps réel. Ajoutez votre base de connaissances et vos outils métier, rédigez des instructions système et des règles de secours, testez la latence et la sécurité, puis mesurez les résultats après le lancement.
Ce guide explique comment concevoir un assistant vocal IA étroitement aligné sur votre marque.

En résumé
- Un assistant vocal IA connecte la transcription vocale, un LLM et la synthèse vocale afin de créer une IA conversationnelle capable d'agir.
- Maintenez le délai aller-retour sous les 500 ms grâce à la détection d'activité vocale (VAD) afin que l'IA vocale paraisse naturelle et réduise l'abandon des appels.
- Intégrez la base de connaissances interne et les outils pour fournir des réponses IA précises, utiles et adaptées au contexte dans différents scénarios.
- Appliquez des garde-fous imposant une confirmation verbale explicite et transférez les demandes complexes ou chargées émotionnellement à un intervenant humain.
- Utilisez ElevenAPI pour accéder à des modèles vocaux et audio interactifs de haute précision, conçus pour les interactions en direct.
Qu'est-ce qu'un assistant vocal IA ?
Un assistant vocal IA est un logiciel qui comprend le langage parlé et permet aux utilisateurs d'interagir avec des systèmes connectés. Il combine la transcription vocale, des modèles IA et des technologies de synthèse vocale pour transformer les conversations en actions.
Au-delà de la transcription, les assistants vocaux IA peuvent effectuer des tâches, comme lancer une application, récupérer des données ou contrôler des machines. Selon le modèle vocal utilisé, certains assistants IA peuvent être pratiquement impossibles à distinguer d'enregistrements humains.
Les assistants vocaux IA ne sont toutefois pas une technologie nouvelle. De nombreux consommateurs utilisent Siri, Alexa et Google Assistant, des assistants vocaux commerciaux qui répondent à des commandes simples. Mais à mesure que les technologies IA évoluent, davantage d'organisations conçoivent des assistants vocaux IA pour des processus d'entreprise plus complexes.
Par exemple, Admiral, un assureur, a conçu un assistant vocal IA pour accompagner des millions de clients. L'assistant IA répond aux demandes, récupère des documents et libère les intervenants humains des tâches répétitives.
Si vous envisagez de concevoir un assistant vocal IA pour des processus commerciaux ou industriels, poursuivez votre lecture. Nous détaillons les étapes à suivre à partir d'un exemple d'assistant vocal IA en Python afin de mettre en lumière les principaux détails d'implémentation.
Comment concevoir un assistant vocal IA : définissez la mission de votre agent vocal IA
L'IA vocale automatise couramment le service client dans les centres d'appels. Toutefois, compte tenu des nombreuses capacités d'un agent vocal IA, vous pouvez concevoir un assistant vocal IA pour presque tous les cas d'usage, notamment dans les ventes, le produit et les ressources humaines.
Quelle que soit l'application de votre agent vocal, veillez à ce qu'elle corresponde à votre logique métier. Pour concevoir un assistant vocal performant, consultez des experts métier sur les difficultés courantes des utilisateurs finaux. Cartographiez ensuite le parcours d'interaction client et définissez des indicateurs mesurables.
Par exemple, si vous appliquez l'IA vocale à un tunnel de vente, l'agent doit pouvoir poser des questions de préqualification.
Notre chargé de développement commercial IA (SDR), Dom, l'a fait et a atteint 92 % de précision dans la qualification.
Choisissez les indicateurs de réussite, les canaux et les parcours d'escalade
Lorsqu'il est déployé en entreprise, l'agent doit atteindre de manière constante des objectifs précis. Plus l'objectif est restreint, plus il est facile d'évaluer et d'affiner l'agent.
Posez donc les questions suivantes dès le début du développement :
- Quelle latence de réponse est acceptable ?
- Quel taux de confinement attendez-vous ?
- L'agent doit-il converser dans plusieurs langues ?
- L'assistant IA peut-il traiter les demandes simples de bout en bout sans intervention humaine ?
- Dans quelles circonstances l'agent doit-il transférer la demande au service client humain ?

Concevoir à partir d'API brutes ou utiliser ElevenAgents ?
Avant d'écrire du code, déterminez quelle part de la pile vocale vous souhaitez gérer. Vous pouvez connecter vous-même la transcription vocale, un LLM et la synthèse vocale via ElevenAPI, ou utiliser ElevenAgents, une plateforme gérée qui regroupe ces éléments.
La conception à partir d'API brutes vous donne un contrôle total sur chaque couche. Vous choisissez le LLM, écrivez le code d'orchestration et gérez la prise de tour de parole, les interruptions, la téléphonie et le suivi. Cette approche convient aux équipes ayant des exigences architecturales précises, et c'est celle suivie dans l'exemple Python de ce guide.
ElevenAgents réunit les modèles, les outils, une base de connaissances et les processus dans un même Dashboard. Il connecte des fournisseurs de téléphonie, comme Twilio et Amazon Connect, à des outils métier tels que Salesforce, Zendesk et HubSpot. Il comprend également des simulations et des tests automatisés avant le lancement, ainsi que des analyses du taux de réussite, de la satisfaction client et des transcriptions après le lancement.
Appuyez-vous sur ces questions pour choisir :
- Rapidité : ElevenAgents permet à une équipe de configurer et lancer un agent depuis un Dashboard, tandis que les API brutes impliquent de concevoir et maintenir toute la chaîne de traitement.
- Contrôle : les API brutes permettent de personnaliser chaque étape dans le code, tandis qu'ElevenAgents couvre les besoins courants par configuration.
- Opérations : ElevenAgents inclut les tests et les analyses, tandis que les API brutes vous imposent de concevoir votre propre suivi.
- Équipe : ElevenAgents convient aux équipes mixtes réunissant produit, assistance et opérations, tandis que les API brutes conviennent aux équipes disposant d'ingénieurs dédiés.
Une approche pratique consiste à valider d'abord le cas d'usage dans ElevenAgents, puis à transférer certaines couches vers du code personnalisé uniquement lorsque vous avez besoin de davantage de contrôle.

Cartographier l'architecture de l'assistant vocal IA
Une fois l'objectif métier défini, associez les fonctions de l'agent aux technologies adaptées. Un assistant vocal IA s'appuie sur plusieurs composants clés qui travaillent ensemble pour transformer la parole en texte, déclencher des actions et fournir une réponse cohérente.
- Un modèle de transcription vocale capture les énoncés oraux, identifie les phonèmes et produit les transcriptions de la conversation.
- Un moteur IA, allant d'un simple algorithme fondé sur des règles ou d'une bibliothèque de traitement du langage naturel à un grand modèle de langage (LLM), agit comme le cerveau de l'assistant vocal.
- Un modèle de synthèse vocale produit des réponses conversationnelles avec des voix à l'apparence humaine et respecte les directives de la marque.

ElevenLabs propose des modèles vocaux et audio Speech to Text et Text to Dialogue qui aident les équipes produit et techniques à concevoir leurs assistants vocaux IA. Nos modèles prennent en charge une intonation nuancée, la compréhension des émotions et des réponses à faible latence. Vous pouvez accéder aux modèles vocaux via ElevenAPI.
Pour les modèles IA, votre choix dépend largement des objectifs et exigences de l'assistant vocal. Si les LLM, comme les modèles GPT d'OpenAI, Gemini et Claude, excellent en raisonnement, ils nécessitent un ajustement supplémentaire pour répondre aux besoins propres à un domaine. Il est parfois plus judicieux d'utiliser un réseau neuronal plus simple ou un analyseur fondé sur des règles.
Au-delà des modèles vocaux et IA, vous avez aussi besoin d'un logiciel personnalisé qui extrait des entités précises à partir des conversations ou demandes des utilisateurs. Par exemple, lorsqu'un appelant dit « Je souhaite parler au service commercial », votre code doit identifier « service commercial » et déclencher l'action appropriée.
Créer des clés API et connecter la transcription vocale, un LLM, des outils et la synthèse vocale
Avant de vous connecter aux modèles vocaux et linguistiques, vous avez besoin de clés API. De même, vous aurez besoin de clés API pour effectuer des requêtes API lors de l'intégration d'outils de services externes à votre assistant vocal.
- Pour créer une clé API ElevenLabs, cliquez ici.
- Pour utiliser un LLM OpenAI, obtenez votre clé ici.
- Si vous vous connectez à des CRM, ERP et autres outils tiers, consultez la documentation officielle afin de créer une clé API et d'identifier les API prises en charge.
Après avoir obtenu les clés API, stockez-les dans votre environnement de développement.
Vous initialisez ensuite les outils, le LLM et les modèles audio, et y accédez, en transmettant les bons arguments à l'API.
1. Connectez-vous d'abord à ElevenLabs Scribe v2 Realtime pour effectuer une reconnaissance automatique de la parole. ElevenLabs Scribe v2 Realtime vous permet de concevoir des agents vocaux à faible latence qui transforment les conversations en texte en moins de 150 ms, hors temps réseau et application.
Voici un extrait de code Python qui capture l'enregistrement du microphone avec ElevenLabs Scribe v2 Realtime.
2. Envoyez ensuite la transcription à un LLM doté de solides capacités de raisonnement pour générer une réponse. Dans cet exemple, nous utilisons OpenAI GPT-4o mini.
Voici comment envoyer une transcription à un LLM dans votre code Python.
3. Après avoir reçu la sortie du LLM, transformez-la en réponse orale réaliste avec ElevenLabs v4 Turbo. Notre modèle Text to Speech est très expressif, conçu pour les interactions en temps réel, et offre une latence ultra-faible d'environ 100 ms, qui concerne uniquement le temps d'inférence du modèle. La latence réelle de bout en bout varie selon des facteurs tels que votre emplacement et le type de point de terminaison utilisé.
Le code ci-dessous montre l'agent utilisant un WebSocket pour diffuser des réponses vocales avec l'API Text to Dialogue d'ElevenLabs.
Votre agent de reconnaissance automatique de la parole doit gérer facilement les conversations à plusieurs tours. Pour cela, vous avez besoin d'un agent vocal capable de savoir quand la parole commence et s'arrête.
Concevoir des conversations naturelles et ciblées
Les systèmes conventionnels de réponse vocale interactive (SVI) ne fonctionnent pas au-delà des scénarios pour lesquels ils sont programmés. Lorsqu'on leur demande de résoudre des problèmes qui ne sont pas définis dans leurs règles, ces SVI ne fournissent pas de réponses satisfaisantes. En outre, ils ne semblent pas toujours naturels, ce qui nuit à l'expérience client.
Avec des modèles IA et vocaux avancés, un assistant vocal peut répondre plus naturellement et gérer les cas limites. Vous pouvez concevoir les différents scénarios que l'agent doit anticiper ainsi qu'un parcours d'escalade pour les cas qu'il ne peut résoudre. Par exemple, certains clients appellent pour demander le statut d'une livraison, tandis que d'autres peuvent être frustrés par des produits défectueux et exiger de parler à un responsable de l'expérience client.
Rédiger les instructions système, les règles de prise de tour et les réponses de secours
Pour gérer différents scénarios, vous créez des codes spécifiques de gestion de logique et des prompts système dans l'application de l'agent vocal IA.
Par exemple, le prompt système ci-dessous détecte la frustration et demande au LLM de répondre avec davantage d'empathie.
Les conversations IA ne doivent jamais paraître précipitées ou interrompues. Le modèle vocal doit détecter lorsque l'utilisateur a cessé de parler et répondre à temps. ElevenLabs Scribe v2 Realtime vous permet d'activer la VAD lors de l'écoute de l'entrée microphone. Contrairement à la VAD conventionnelle, qui repose uniquement sur la durée du silence, ElevenLabs Scribe v2 Realtime utilise des algorithmes d'apprentissage profond pour déterminer si un client a fini de parler.
Pour activer la VAD, définissez le paramètre dans votre code lors de l'interaction avec l'API Speech to Text.
Prévoyez ensuite des réponses de secours courtoises et respectueuses si l'agent ne peut répondre de manière satisfaisante à la demande du client. Un agent IA peut également rencontrer une erreur lors de la transcription des conversations. Votre code doit gérer les difficultés techniques et communiquer de manière transparente avec les clients.
Pour fournir des réponses de secours, utilisez une logique conditionnelle dans votre code. Par exemple, l'extrait ci-dessous capture l'état d'erreur de l'API Speech to Text et déclenche les réponses appropriées.
Construire la couche de connaissances et d'outils pour des réponses fiables
Les LLM offrent de solides capacités de raisonnement, qui permettent à un assistant vocal IA de répondre naturellement. Toutefois, une réponse conversationnelle n'implique pas toujours l'exactitude. Sans données de référence, les LLM peuvent halluciner, ce qui amène l'agent vocal à fournir des réponses plausibles mais inexactes.
Par exemple, si vous interrogez GPT-4o mini sur un produit récemment lancé, il ne pourra pas répondre avec certitude. Pour y parvenir, vous devez connecter le LLM à votre base de connaissances interne grâce à un système de génération augmentée par récupération (RAG). Le RAG permet au LLM de consulter les guides produits internes et de produire une réponse précise.
Ajouter la récupération, les actions API, les autorisations et les transferts humains
Pour utiliser le RAG, vous devez créer une base de données vectorielle. Elle stocke les documents sous forme de représentations numériques dans un espace multidimensionnel. L'extrait de code suivant montre comment l'agent vocal récupère des documents pertinents dans le magasin vectoriel avant d'interroger le LLM.
Au-delà du RAG, votre assistant vocal IA devra probablement accéder aux CRM, ERP et autres systèmes d'entreprise. L'agent vocal peut ainsi faire remonter les informations nécessaires, telles que les données clients, les transactions historiques et les tendances du marché, pour contextualiser ses réponses.
Par exemple, vous pouvez intégrer ElevenLabs à HubSpot à l'aide d'API. Vous pouvez ainsi résoudre les problèmes courants avec la base de connaissances du CRM, créer des tickets et transférer les demandes d'assistance avec tout le contexte de la conversation.
Voici un extrait de code permettant à l'agent vocal de créer un ticket d'assistance dans HubSpot.
Si les agents vocaux IA peuvent accélérer la résolution des problèmes, les clients doivent connaître leurs options, surtout lorsque leurs choix peuvent avoir des conséquences importantes sur leurs comptes. Contrairement aux chatbots textuels, énoncer verbalement les options exige davantage de garde-fous. Une fois un choix effectué, il peut être difficile de l'annuler au cours d'un appel.
Dans ce cas, nous recommandons d'authentifier l'appelant et de demander une confirmation verbale. Par exemple, si le client souhaite annuler un achat, votre agent vocal doit demander explicitement : « Êtes-vous sûr de vouloir annuler la commande ? », puis attendre une réponse.
Voici un exemple.
Comment vérifier l'identité d'un appelant avec un agent vocal IA
Avant qu'un agent vocal IA partage les détails d'un compte ou le modifie, il doit confirmer l'identité de son interlocuteur. Le numéro de téléphone d'un appelant est un signal utile, mais ne prouve pas son identité. Combinez-le à d'autres vérifications :
- Faites correspondre le numéro de l'appelant à une fiche client dans votre CRM.
- Demandez des informations que seul le titulaire du compte connaît, comme la date d'une commande récente.
- Validez les réponses en appelant un outil qui les compare à vos dossiers, et ne vous fiez jamais au LLM pour déterminer si elles sont correctes.
- Limitez ce qu'un appelant non vérifié peut faire, par exemple en autorisant la vérification du statut d'une commande, mais pas son annulation.
Gardez les mots de passe, les numéros complets de carte de paiement et les codes d'authentification hors de la conversation, comme l'indique le prompt système ci-dessus.

Agent vocal IA avec transfert d'appel en direct et escalade
Un transfert en direct dirige l'appelant vers un intervenant humain sans lui faire répéter ses informations. Lors d'un transfert assisté, l'agent vocal transmet la transcription et le contexte à l'intervenant avant la connexion de l'appel. Les déclencheurs courants incluent :
- L'appelant demande à parler à une personne.
- L'appelant semble frustré ou la conversation devient chargée émotionnellement.
- L'agent ne peut résoudre la demande après ses réponses de secours.
- La demande nécessite une action exigeant une approbation humaine.
Dans certains cas, l'agent IA doit transférer l'appel à un intervenant humain. L'agent vocal détecte souvent des intentions indiquant de la frustration ou des mots précis qui déclenchent le transfert. Dans votre code, le transfert d'appel doit être fluide et transparent pour les clients.

Avant le basculement, vous transmettez la transcription, les coordonnées du client et les autres éléments de contexte au service d'assistance en direct. ElevenLabs fournit un outil de transfert vers un numéro qui achemine les appels gérés par des agents IA vers un trunk SIP ou un numéro de téléphone Twilio.
L'extrait de code ci-dessous montre un transfert via une conférence Twilio.
Concevoir un assistant vocal IA sans code dans ElevenAgents
Si vous n'avez pas besoin de code personnalisé, vous pouvez lancer le même assistant dans ElevenAgents. Les étapes reprennent l'architecture ci-dessus, mais vous configurez chaque couche dans un Dashboard au lieu d'écrire le code.
- Concevez un agent et décrivez sa mission dans le prompt système, notamment le ton, le périmètre et les conditions d'escalade.
- Choisissez une voix dans la Voice Library, ou concevez ou clonez la vôtre, puis définissez les langues que l'agent doit parler.
- Ajoutez votre base de connaissances afin que l'agent puisse répondre à partir de vos propres documents.
- Connectez les outils et intégrations, comme votre CRM ou votre centre d'aide, afin que l'agent puisse agir.
- Configurez un transfert vers un intervenant humain pour les appels que l'assistant ne peut résoudre.
- Exécutez des simulations et des tests automatisés pour vérifier le comportement avant le lancement.
- Déployez l'agent sur un numéro de téléphone ou un canal, puis examinez les taux de réussite, la satisfaction client et les transcriptions.
Les conseils de test et de mesure des sections suivantes s'appliquent que vous conceviez avec ou sans code.
Comment concevoir un assistant vocal IA adapté à votre marque
Les organisations peuvent adapter la voix de l'agent IA afin qu'elle reflète leur marque. Un ton cohérent tout au long de la conversation contribue à instaurer la confiance. ElevenLabs propose plusieurs façons de personnaliser la voix de votre agent IA.
- ElevenLabs Voice Library propose plus de 20 000 voix IA parlées naturellement dans plus de 90 langues. Énergiques, calmes ou assurées, vous pouvez les parcourir et les utiliser pour correspondre au ton de votre marque.
- ElevenLabs Voice Design vous permet de créer une identité vocale unique à partir d'un prompt textuel. Décrivez le rythme, le ton, l'émotion et les autres caractéristiques vocales pour obtenir la voix souhaitée.
- Clonage de voix IA d'ElevenLabs crée une réplique numérique de votre voix en analysant un échantillon de vos enregistrements vocaux.
Au-delà des émotions et nuances, il est aussi important de vérifier la prononciation de la voix IA, surtout pour les noms particuliers. Si nécessaire, créez un dictionnaire de prononciation auquel votre modèle vocal peut se référer.

Tester la latence, les interruptions, la précision et la sécurité avant le lancement
Avant le lancement, testez rigoureusement votre agent vocal IA afin de garantir sa fiabilité dans différents scénarios.
- Test de latence : Un agent qui met plus de 700 ms à répondre semblera peu naturel aux clients. Selon votre configuration, la vitesse du réseau, le LLM, les modèles vocaux et les API tierces peuvent influer sur la latence. Idéalement, maintenez la latence conversationnelle sous les 500 ms.
- Test d'interruption : vérifiez que l'agent gère les interruptions en cours de conversation. Il doit notamment abandonner les trames audio de sortie, arrêter la synthèse vocale et reprendre la capture de l'entrée vocale sans perdre le contexte.
- Test de prise de tour : lorsque l'utilisateur cesse de parler, l'agent doit prendre le relais naturellement. Évaluez s'il intervient au bon moment et s'il interrompt l'utilisateur en pleine parole. Pour un guide détaillé, découvrez comment ElevenLabs gère la prise de tour ici.
- Test de précision : Toute imprécision dans la couche de transcription vocale se propage en aval. Assurez-vous que l'assistant vocal comprend la parole même dans des environnements bruyants. Le modèle vocal doit également transcrire avec précision et constance les différents accents.
- Test de sécurité : veillez à ce que les garde-fous empêchent les comportements système qui enfreignent la politique de la marque. Si une interaction devient chargée émotionnellement, l'agent doit faciliter un transfert assisté vers un intervenant humain conformément aux directives prédéfinies.

Mesurer les résultats et améliorer le développement de votre assistant vocal
Le respect des critères de test internes prépare votre agent vocal IA à un déploiement réel. Toutefois, ce n'est pas l'objectif final du cycle de développement. L'itération après déploiement est tout aussi importante pour garantir que votre agent vocal IA continue de résoudre les demandes des clients.
Vous utilisez les retours issus des indicateurs d'IA conversationnelle pour identifier les lacunes de votre assistant IA. Affinez ensuite progressivement la logique de l'application, les intégrations API, les choix de modèles et les autres composants de votre pile technologique pour améliorer les performances de l'IA conversationnelle.
Suivre le confinement, la résolution, la satisfaction client et les modes de défaillance
Mesurez en continu votre assistant IA par rapport aux références du secteur. Parmi les indicateurs à suivre :
- Confinement : mesure le nombre de conversations résolues avec succès par l'agent IA.
- Taux d'escalade : mesure les appels qui nécessitent finalement une intervention humaine.
- Taux d'erreur sur les mots : référence de précision indiquant avec quelle exactitude l'IA transcrit l'audio.
- Taux d'hallucination : met en évidence les incidents où les LLM génèrent des réponses inexactes mais plausibles.
- CSAT : retours clients indiquant leur niveau de satisfaction à l'égard de l'agent vocal IA.
En savoir plus sur les indicateurs d'IA conversationnelle.
Utilisez ElevenAPI dès aujourd'hui pour vos assistants vocaux IA
ElevenAPI simplifie le développement d'assistants vocaux IA. Grâce à des modèles de pointe de Text to Speech et Speech to Text, vous pouvez concevoir des agents d'IA conversationnelle adaptés au contexte, qui s'intègrent directement à vos processus d'entreprise. Nos modèles vocaux et audio offrent constamment une haute précision et une faible latence, pour une expérience client naturelle.
Obtenez votre clé API ElevenAPI ici et consultez notre documentation officielle pour commencer à concevoir votre solution.
FAQ : concevoir un assistant vocal IA
Jack Limebear fait partie de l’équipe Growth, où il rédige et conçoit des contenus pour le blog et les pages d’analyses. Avant de rejoindre ElevenLabs, il a passé plus de dix ans à piloter la stratégie de contenu pour des organisations allant de start-ups SaaS en forte croissance à des entreprises du Fortune 500. Il est titulaire d’un master en littérature anglaise de l’Université de Cambridge.



