IA Conversacional Pronta para Produção em Escala Empresarial: Com Felix Su da Scale AI

IA empresarial bem-sucedida não se trata apenas de ter a tecnologia mais recente—é sobre ter a arquitetura certa e controles construídos sobre primitivas de IA. LLMs prontos para uso são poderosos, mas carecem de conhecimento profundo sobre como seguir a lógica de negócios, diretrizes de marca e princípios de segurança. Essa experiência personalizada só pode ser alcançada arquitetando e testando cuidadosamente um sistema de prompts, LLMs, diretrizes, ferramentas e outros blocos de construção para guiar o comportamento da IA generativa a seguir regras empresariais.

O Poder da Separação: Por Que a Arquitetura Importa

Ao construir IA de Voz Conversacional, desenvolvedores podem trabalhar com modelos multimodais, de voz para voz, ou podem juntar as partes componentes de ASR (transcrição), LLMs e TTS. Para empresas com casos de uso específicos, a última opção pode ser mais prática.

"Em um ambiente corporativo, muitas vezes a IA não pode ser feita só com LLMs", explica Felix Su, Head de Engenharia da plataforma GenAI da Scale. "É preciso criar um sistema complexo que siga a lógica do negócio, mantenha a identidade da marca e funcione dentro de limites bem definidos. Esses comportamentos são personalizados para cada empresa, então faz mais sentido implementar esses sistemas em cima dos LLMs, em vez de depender apenas do comportamento latente deles. Apesar das capacidades multimodais terem sido incorporadas diretamente aos modelos recentemente, a adoção desses modelos em casos críticos de produção tem sido mais lenta do que o esperado. Isso acontece porque falta controle entre a geração e os dados de entrada e saída em cada modalidade. No caso do TIME AI, usar Speech to Text e Transformar Texto em Áudio permitiu que a gente controlasse tanto as entradas para os LLMs baseados em texto quanto protegesse as saídas do nosso sistema com regras personalizadas. Muitas vezes, essa abordagem é mais prática do que usar LLMs multimodais diretamente."

Ao construir a experiência TIME AI, a Scale indexou o corpus de artigos da TIME em bases de conhecimento para recuperação sob demanda, codificou a lógica de negócios em uma série de prompts de sistema e protegeu as saídas do GenAI contra alucinações e violações tanto de segurança quanto de diretrizes de marca. Além desse sistema, eles deram vida à experiência com uma voz da plataforma de orquestração de IA Conversacional da ElevenLabs.

Experiência Person of the Year da TIME: Onde a Voz Faz a Diferença

O recente lançamento da TIME AI permite que os leitores participem de conversas naturais sobre o jornalismo da TIME, incluindo sua icônica cobertura de Person of the Year. O que diferencia essa implementação de inúmeros outros chatbots não é apenas seu conhecimento—é a voz.

"Usar a voz realmente deu um toque especial," reflete Su. "Sem ela, se perde na multidão como apenas mais um chatbot. Queríamos que o agente parecesse um parceiro de leitura ao vivo, disponível para mergulhos profundos em conversas fora do roteiro." A implementação combina a expertise da Scale AI em desenvolvimento de IA com a plataforma de IA Conversacional da ElevenLabs, criando uma experiência que parece notavelmente humana enquanto mantém controle rigoroso sobre o conteúdo e a voz da marca.

Construindo Sistemas Prontos para Empresas

Para empresas que desejam implantar IA conversacional em escala, colaborar com a Scale AI e a ElevenLabs oferece um caminho comprovado. A Scale AI traz profunda expertise em construir sistemas de IA multimodais controlados e seguros com diretrizes robustas, enquanto a ElevenLabs fornece tecnologia de voz de ponta que pode ser integrada perfeitamente a esses sistemas.

Embora a implementação da TIME se concentre no jornalismo, a mesma arquitetura pode ser aplicada em vários casos de uso empresarial, particularmente em atendimento e suporte ao cliente. Os clientes estão se cansando de chatbots básicos à medida que exigem interações mais envolventes e humanas.

Obrigado a Felix por contribuir para este post. Você pode encontrar Felix Su no LinkedIn & X, e você pode experimentar a seu Pessoa do Ano 2024a Pessoa do Ano 2024, além da Pessoa do Ano de 2021, 2022 e

Desenvolvedores podem começar com IA Conversacional usando nossos documentos, e empresas que desejam implementar soluções confiáveis de Conversational Voice Agent em produção podem entrar em contato com a equipe de soluções Enterprise na ElevenLabs e