IA Conversationnelle Prête pour la Production à l'Échelle de l'Entreprise : Avec Felix Su de Scale AI

Une IA d’entreprise performante ne repose pas uniquement sur les dernières technologies : elle exige une architecture et des mécanismes de contrôle adaptés, construits sur des briques fondamentales de l’IA. Les LLM prêts à l’emploi sont puissants, mais ne disposent pas d’une connaissance approfondie de la logique métier, des directives de marque et des principes de sécurité à respecter. Cette expérience sur mesure ne peut être obtenue qu’en concevant et en testant avec soin un système de prompts, de LLM, de garde-fous, d’outils et d’autres composants afin d’orienter le comportement de l’IA générative selon les règles de l’entreprise.

La force de la séparation : pourquoi l’architecture est essentielle

Pour créer une IA vocale conversationnelle, les développeurs peuvent travailler avec des modèles multimodaux de voix à voix, ou assembler les différents composants de l’ASR (transcription), des LLM et du TTS. Pour les entreprises ayant des cas d’usage spécifiques, cette seconde approche est souvent plus pratique.

« Dans un contexte d’entreprise, l’IA ne peut souvent pas reposer uniquement sur les LLM », explique Felix Su, responsable de l’ingénierie de la plateforme GenAI de Scale. « Un système complexe doit être conçu pour respecter la logique métier, préserver l’image de marque et fonctionner dans le cadre de garde-fous stricts. Ces comportements sont propres à chaque entreprise ; il est donc plus pratique d’implémenter ces systèmes au-dessus des LLM plutôt que de dépendre uniquement de leur comportement latent. Si les capacités multimodales ont récemment été intégrées directement aux modèles, leur adoption pour des cas d’usage critiques en production a été plus lente que prévu. Cela s’explique par le manque de contrôle entre la génération et les entrées et sorties propres à leur modalité. Dans le cas de TIME AI, l’utilisation de STT et du TTS nous a permis à la fois de contrôler les entrées des LLM textuels et de protéger les sorties de notre système au moyen de garde-fous sur mesure. Cette technique est souvent plus pratique que l’utilisation directe de LLM multimodaux. »

Lors de la création de l’expérience TIME AI, Scale a indexé le corpus d’articles de TIME dans des bases de connaissances consultables à la demande, encodé la logique métier dans une série de prompts système et protégé les sorties de GenAI contre les hallucinations et les écarts aux exigences de sécurité comme aux directives de marque. Ils ont ensuite donné vie à cette expérience avec une voix issue de la plateforme d’orchestration IA conversationnelle d’ElevenLabs. 

L’expérience Person of the Year de TIME : quand la voix fait la différence

Le récent lancement de TIME AI permet aux lecteurs d’échanger naturellement autour du journalisme de TIME, notamment de son emblématique couverture Person of the Year. Ce qui distingue cette implémentation d’innombrables autres chatbots ne tient pas seulement à ses connaissances : c’est aussi la voix.

« La voix lui a vraiment apporté un impact supplémentaire », observe Su. « Sans elle, l’expérience se perd parmi les autres chatbots. Nous voulions que l’agent soit comme un partenaire de lecture en direct, disponible pour approfondir les sujets au fil de conversations spontanées. » L’implémentation associe l’expertise de Scale AI en développement de l’IA à la plateforme d’IA conversationnelle d’ElevenLabs, pour créer une expérience remarquablement humaine tout en conservant un contrôle strict du contenu et de la voix de marque.

Concevoir des systèmes prêts pour l’entreprise

Pour les entreprises qui souhaitent déployer l’IA conversationnelle à grande échelle, la collaboration entre Scale AI et ElevenLabs offre une approche éprouvée. Scale AI apporte une solide expertise dans la conception de systèmes d’IA multimodale contrôlés et sécurisés, avec des garde-fous robustes, tandis qu’ElevenLabs fournit une technologie vocale de premier plan qui s’intègre facilement à ces systèmes.

Si l’implémentation de TIME se concentre sur le journalisme, cette même architecture peut s’appliquer à de nombreux cas d’usage en entreprise, notamment le service client et l’assistance. Les clients se lassent des chatbots basiques et attendent des interactions plus engageantes et plus humaines. 

Merci à Felix pour sa contribution à cet article. Retrouvez Felix Su sur LinkedIn et X, et découvrez l’expérience vocale d’IA conversationnelle qu’il a conçue avec TIME pour leur Person of the Year 2024, ainsi que les éditions Person of the Year de 2021, 2022 et 2023.

Les développeurs peuvent se lancer avec l’IA conversationnelle grâce à notre documentation, tandis que les entreprises souhaitant déployer en production des solutions fiables d’agent vocal conversationnel peuvent contacter l’équipe Enterprise d’agent vocal d’ElevenLabs ou de ElevenLabs et Scale.