IA Conversacional Lista para Producción a Escala Empresarial: Con Felix Su de Scale AI

La IA empresarial exitosa no se trata solo de tener la última tecnología, sino de contar con la arquitectura y controles adecuados sobre los elementos básicos de IA. Los LLMs disponibles son poderosos, pero carecen de conocimiento profundo sobre cómo seguir la lógica empresarial, las directrices de marca y los principios de seguridad. Esta experiencia personalizada solo se puede lograr diseñando y probando cuidadosamente un sistema de prompts, LLMs, medidas de seguridad, herramientas y otros componentes para guiar el comportamiento de la IA generativa según las reglas de la empresa.

El Poder de la Separación: Por Qué la Arquitectura Importa

Al construir IA de Voz Conversacional, los desarrolladores pueden trabajar con modelos multimodales de voz a voz, o pueden unir las partes componentes de ASR (transcripción), LLMs y TTS. Para empresas con casos de uso específicos, esto último puede ser más práctico.

"En un entorno empresarial, la IA a menudo no basta solo con LLMs", explica Felix Su, jefe de ingeniería de la plataforma GenAI de Scale. "Hay que diseñar un sistema complejo que siga la lógica del negocio, mantenga la imagen de marca y funcione dentro de límites muy claros. Estos comportamientos se adaptan a cada empresa, así que es más práctico implementar estos sistemas sobre los LLMs en vez de depender solo de su comportamiento latente. Aunque últimamente los modelos ya incluyen capacidades multimodales, su adopción en casos críticos de producción ha sido más lenta de lo esperado. Esto se debe a la falta de control entre la generación y las entradas y salidas de cada modalidad. En el caso de TIME AI, usar STT y TTS nos permitió controlar las entradas a los LLMs basados en texto y proteger las salidas del sistema con límites personalizados. Esta técnica suele ser más práctica que usar directamente LLMs multimodales."

Al construir la experiencia TIME AI, Scale indexó el corpus de artículos de TIME en bases de conocimiento para recuperación bajo demanda, codificó la lógica empresarial en una serie de prompts del sistema y protegió las salidas de GenAI contra alucinaciones e infracciones tanto en seguridad como en directrices de marca. Sobre este sistema, dieron vida a la experiencia con una voz de la plataforma de orquestación de IA Conversacional de ElevenLabs.

Experiencia Persona del Año de TIME: Donde la Voz Marca la Diferencia

El reciente lanzamiento de TIME AI permite a los lectores participar en conversaciones naturales sobre el periodismo de TIME, incluida su icónica cobertura de Persona del Año. Lo que distingue a esta implementación de otros innumerables chatbots no es solo su conocimiento, sino la voz.

"Usar la voz realmente le dio un toque especial", reflexiona Su. "Sin ella, se pierde en el montón como otro chatbot más. Queríamos que el agente se sintiera como un compañero de lectura en vivo, disponible para profundizar en conversaciones fuera de guion." La implementación combina la experiencia de Scale AI en desarrollo de IA con la plataforma de IA Conversacional de ElevenLabs, creando una experiencia que se siente notablemente humana mientras mantiene un estricto control sobre el contenido y la voz de la marca.

Construyendo Sistemas Listos para Empresas

Para las empresas que buscan implementar IA conversacional a gran escala, colaborar con Scale AI y ElevenLabs ofrece un camino probado. Scale AI aporta una profunda experiencia en la construcción de sistemas de IA multimodales controlados y seguros con medidas de seguridad robustas, mientras que ElevenLabs proporciona tecnología de voz de primera clase que se puede integrar sin problemas en estos sistemas.

Aunque la implementación de TIME se centra en el periodismo, la misma arquitectura se puede aplicar a diversos casos de uso empresarial, particularmente en servicio y soporte al cliente. Los clientes están cansados de chatbots básicos y demandan interacciones más atractivas y humanas.

Gracias a Felix por contribuir a este post. Puedes encontrar a Felix Su en LinkedIn & X, y puedes probar la su Persona del Año 2024su Persona del Año 2024, además de Persona del Año en 2021, 2022 y

Los desarrolladores pueden comenzar con IA Conversacional usando nuestra documentación, y empresas que buscan implementar soluciones de Conversational Voice Agent en producción pueden ponerse en contacto con el equipo de soluciones Enterprise en ElevenLabs y