IA Conversacional Pronta para Produção em Escala Empresarial: Com Felix Su da Scale AI

Uma IA empresarial bem-sucedidaIA empresarial não se resume a ter a tecnologia mais recente — trata-se de contar com a arquitetura e os controles certos, construídos sobre os fundamentos da IA. LLMs prontos para uso são poderosos, mas não têm conhecimento aprofundado sobre como seguir a lógica de negócios, as diretrizes da marca e os princípios de segurança. Essa experiência personalizada só pode ser alcançada ao projetar e testar cuidadosamente um sistema de prompts, LLMs, guardrails, ferramentas e outros componentes para orientar o comportamento da IA generativa conforme as regras da empresa.

O poder da separação: por que a arquitetura importa

Ao criar uma IA de Voz Conversacional, os desenvolvedores podem trabalhar com modelos multimodais de voz para voz ou combinar os componentes de ASR (transcrição), LLMs e TTS. Para empresas com casos de uso específicos, a segunda opção costuma ser mais prática.

"No contexto empresarial, muitas vezes não é possível criar IA usando apenas LLMs", explica Felix Su, diretor de engenharia da plataforma GenAI da Scale. "É preciso projetar um sistema complexo para seguir a lógica de negócios, preservar a imagem da marca e operar dentro de guardrails rigorosos. Esses comportamentos são personalizados para cada empresa, então é mais prático implementar esses sistemas sobre LLMs do que depender exclusivamente de seu comportamento latente. Embora recursos multimodais tenham sido incorporados diretamente aos modelos recentemente, a adoção desses modelos em casos de uso críticos de produção tem sido mais lenta do que o esperado. Isso ocorre pela falta de controle entre a geração e as entradas e saídas de cada modalidade. No caso do TIME AI, o uso de STT e TTS nos permitiu controlar tanto as entradas dos LLMs baseados em texto quanto proteger as saídas do nosso sistema com guardrails personalizados. Essa técnica muitas vezes pode ser mais prática do que usar LLMs multimodais diretamente."

Ao criar a experiência TIME AI, a Scale indexou o acervo de artigos da TIME em bases de conhecimento para recuperação sob demanda, codificou a lógica de negócios em uma série de prompts de sistema e protegeu as saídas da GenAI contra alucinações e violações das diretrizes de segurança e da marca. Com base nesse sistema, deram vida à experiência com uma voz da plataforma de orquestração de IA conversacional da ElevenLabs. 

A experiência Pessoa do Ano da TIME: onde a voz faz a diferença

O lançamento recente do TIME AI permite que leitores tenham conversas naturais sobre o jornalismo da TIME, incluindo a icônica cobertura de Pessoa do Ano. O que diferencia essa implementação de tantos outros chatbots não é apenas seu conhecimento — é a voz.

"Usar a voz realmente deu mais impacto à experiência", reflete Su. "Sem ela, a solução se perde no meio de tantos outros chatbots. Queríamos que o agente parecesse um parceiro de leitura ao vivo, disponível para conversas aprofundadas que vão além do roteiro." A implementação combina a expertise da Scale AI no desenvolvimento de IA com a plataforma de IA Conversacional da ElevenLabs, criando uma experiência surpreendentemente humana e mantendo um controle rigoroso sobre o conteúdo e a voz da marca.

Criando sistemas prontos para empresas

Para empresas que buscam implementar IA conversacional em escala, colaborar com a Scale AI e a ElevenLabs oferece um caminho comprovado. A Scale AI traz ampla experiência na criação de sistemas de IA multimodais, seguros e controlados, com guardrails robustos, enquanto a ElevenLabs oferece tecnologia de voz de ponta que pode ser integrada a esses sistemas sem dificuldades.

Embora a implementação da TIME seja voltada ao jornalismo, a mesma arquitetura pode ser aplicada a diversos casos de uso empresariais, especialmente em atendimento e suporte ao cliente. Os clientes estão se cansando de chatbots básicos e exigem interações mais envolventes e humanas. 

Agradecemos a Felix por contribuir com este post. Você pode encontrar Felix Su no LinkedIn e no X, além de conhecer a experiência de voz de IA Conversacional que ele criou com a TIME em sua Pessoa do Ano de 2024, assim como as Pessoas do Ano de 2021, 2022 e 2023.

Os desenvolvedores podem começar a usar IA Conversacional com nossa documentação, e empresas que desejam implementar soluções confiáveis de Agente de Voz Conversacional em produção podem entrar em contato com a equipe de soluções Enterprise da ElevenLabs e da Scale.