IA Conversacional Lista para Producción a Escala Empresarial: Con Felix Su de Scale AI

La IA empresarial eficaz no consiste solo en contar con la tecnología más reciente, sino en tener la arquitectura y los controles adecuados sobre los componentes básicos de IA. Los LLM comerciales son potentes, pero no conocen a fondo cómo seguir la lógica empresarial, las directrices de marca y los principios de seguridad. Esta experiencia personalizada solo puede lograrse diseñando y probando cuidadosamente un sistema de prompts, LLM, medidas de protección, herramientas y otros componentes que guíen el comportamiento de la IA generativa para cumplir las reglas de la empresa.

El poder de la separación: por qué importa la arquitectura

Al crear IA de Voz Conversacional, desarrolladores pueden trabajar con modelos multimodales de voz a voz o combinar los componentes de ASR (transcripción), LLM y TTS. Para empresas con casos de uso específicos, la segunda opción suele ser más práctica.

«En un entorno empresarial, la IA a menudo no puede construirse solo con LLM», explica Felix Su, responsable de ingeniería de la plataforma GenAI de Scale. «Un sistema complejo debe diseñarse para seguir la lógica empresarial, mantener la imagen de marca y operar dentro de medidas de protección estrictas. Estos comportamientos se personalizan para cada empresa, por lo que resulta más práctico implementar estos sistemas sobre LLM, en lugar de depender únicamente de su comportamiento latente. Aunque recientemente se han integrado capacidades multimodales directamente en los modelos, su adopción en casos de uso críticos en producción ha sido más lenta de lo esperado. Esto se debe a la falta de control entre la generación y las entradas y salidas de cada modalidad. En el caso de TIME AI, usar STT y TTS nos permitió controlar las entradas a los LLM basados en texto y proteger las salidas de nuestro sistema con medidas de protección personalizadas. Esta técnica suele ser más práctica que usar directamente LLM multimodales».

Al crear la experiencia TIME AI, Scale indexó el corpus de artículos de TIME en bases de conocimiento para recuperarlos bajo demanda, codificó la lógica empresarial en una serie de prompts de sistema y protegió las salidas de GenAI frente a alucinaciones e incumplimientos de las directrices de seguridad y marca. Sobre este sistema, dieron vida a la experiencia con una voz de la plataforma de IA Conversacional de ElevenLabs para la orquestación de IA. 

La experiencia Persona del Año de TIME: donde la voz marca la diferencia

El reciente lanzamiento de TIME AI permite a lectores mantener conversaciones naturales sobre el periodismo de TIME, incluida su emblemática cobertura de la Persona del Año. Lo que distingue a esta implementación de tantos otros chatbots no es solo su conocimiento, sino la voz.

«Usar la voz le aportó mucha fuerza», comenta Su. «Sin ella, se pierde entre tantos otros chatbots. Queríamos que el agente se sintiera como un compañero de lectura en directo, disponible para profundizar en conversaciones fuera de guion». La implementación combina la experiencia de Scale AI en el desarrollo de IA con la plataforma de IA Conversacional de ElevenLabs, creando una experiencia sorprendentemente humana sin perder el control estricto sobre el contenido y la voz de marca.

Crear sistemas preparados para empresas

Para empresas que buscan desplegar IA conversacional a escala, colaborar con Scale AI y ElevenLabs ofrece un camino contrastado. Scale AI aporta una gran experiencia en la creación de sistemas de IA multimodales controlados y seguros, con medidas de protección sólidas, mientras que ElevenLabs ofrece tecnología de voz líder que puede integrarse sin problemas en estos sistemas.

Aunque la implementación de TIME se centra en el periodismo, la misma arquitectura puede aplicarse a distintos casos de uso empresariales, especialmente en atención y soporte al cliente. Clientes se están cansando de los chatbots básicos y exigen interacciones más atractivas y humanas. 

Gracias a Felix por contribuir a esta publicación. Puedes encontrar a Felix Su en LinkedIn y X, y probar la experiencia de voz de IA Conversacional que creó con TIME en su Persona del Año 2024, así como en las ediciones de Persona del Año de 2021, 2022 y 2023.

Desarrolladores pueden empezar a usar IA Conversacional con nuestra documentación, y las empresas que quieran desplegar soluciones fiables de Agente de Voz Conversacional en producción pueden ponerse en contacto con el equipo de soluciones Enterprise de ElevenLabs y Scale.