Produktionsreife Konversations-KI im Unternehmensmaßstab: Mit Felix Su von Scale AI

Erfolgreiche Unternehmens-KI dreht sich nicht nur um die neueste Technologie – es geht darum, die richtige Architektur und Steuerung auf KI-Primitiven aufzubauen. Fertige LLMs sind leistungsstark, aber ihnen fehlt das tiefe Wissen, um Geschäftslogik, Markenrichtlinien und Sicherheitsprinzipien zu befolgen. Diese maßgeschneiderte Erfahrung kann nur durch sorgfältige Architektur und Tests eines Systems aus Prompts, LLMs, Schutzmechanismen, Tools und anderen Bausteinen erreicht werden, um das Verhalten der generativen KI an Unternehmensregeln anzupassen.

Die Kraft der Trennung: Warum Architektur wichtig ist

Beim Aufbau von Konversationelle Voice-KI können Entwickler entweder mit multimodalen, sprachbasierten Modellen arbeiten oder die Komponenten von ASR (Transkription), LLMs und TTS zusammenfügen. Für Unternehmen mit spezifischen Anwendungsfällen kann Letzteres oft praktischer sein.

„Im Unternehmensumfeld reicht KI oft nicht allein mit LLMs aus“, erklärt Felix Su, Head of Engineering für die GenAI-Plattform von Scale. „Ein komplexes System muss so gestaltet werden, dass es Geschäftslogik abbildet, die Markenidentität wahrt und innerhalb klarer Leitplanken arbeitet. Diese Anforderungen sind für jedes Unternehmen individuell, daher ist es sinnvoller, solche Systeme auf LLMs aufzubauen, statt sich nur auf deren inhärentes Verhalten zu verlassen. Obwohl multimodale Fähigkeiten inzwischen direkt in die Modelle integriert werden, erfolgt der Einsatz in kritischen Produktivumgebungen langsamer als erwartet. Das liegt daran, dass die Kontrolle über die Generierung sowie die Ein- und Ausgaben in den jeweiligen Modalitäten fehlt. Bei TIME AI konnten wir durch den Einsatz von Speech to Text und Text to Speech sowohl die Eingaben für textbasierte LLMs steuern als auch die Ausgaben unseres Systems mit individuellen Leitplanken absichern. Diese Methode ist oft praktikabler als der direkte Einsatz multimodaler LLMs.“

Beim Aufbau der TIME AI-Erfahrung hat Scale das Artikelarchiv von TIME in Wissensdatenbanken für den Abruf auf Abruf indexiert, Geschäftslogik in eine Reihe von System-Prompts kodiert und die GenAI-Ausgaben gegen Halluzinationen und Verstöße gegen Sicherheits- und Markenrichtlinien geschützt. Auf diesem System haben sie die Erfahrung mit einer Stimme aus der Conversational AI-Orchestrierungsplattform von ElevenLabs zum Leben erweckt.

TIME's Person of the Year Experience: Wo die Stimme den Unterschied macht

Der kürzliche Start von TIME AI ermöglicht es Lesern, natürliche Gespräche über den Journalismus von TIME zu führen, einschließlich ihrer ikonischen Berichterstattung zur Person des Jahres. Was diese Implementierung von unzähligen anderen Chatbots unterscheidet, ist nicht nur ihr Wissen – es ist die Stimme.

"Die Verwendung der Stimme hat wirklich ein schönes, prägnantes Gefühl hinzugefügt", reflektiert Su. "Ohne sie geht es im Trubel als nur ein weiterer Chatbot verloren. Wir wollten, dass der Agent wie ein lebendiger Lesepartner wirkt, der für tiefgehende Gespräche abseits des Skripts verfügbar ist." Die Implementierung kombiniert die Expertise von Scale AI in der KI-Entwicklung mit der Conversational AI-Plattform von ElevenLabs und schafft eine Erfahrung, die bemerkenswert menschlich wirkt, während sie strenge Kontrolle über Inhalte und Markenstimme beibehält.

Aufbau von unternehmensbereiten Systemen

Für Unternehmen, die Conversational AI im großen Maßstab einsetzen möchten, bietet die Zusammenarbeit mit Scale AI und ElevenLabs einen bewährten Weg. Scale AI bringt tiefes Fachwissen im Aufbau kontrollierter, sicherer multimodaler KI-Systeme mit robusten Schutzmechanismen mit, während ElevenLabs erstklassige Sprachtechnologie bietet, die nahtlos in diese Systeme integriert werden kann.

Während sich die Implementierung von TIME auf den Journalismus konzentriert, kann dieselbe Architektur auf verschiedene Unternehmensanwendungsfälle angewendet werden, insbesondere im Kundenservice und Support. Kunden sind zunehmend müde von einfachen Chatbots, da sie ansprechendere, menschenähnliche Interaktionen verlangen.

Vielen Dank an Felix für seinen Beitrag zu diesem Beitrag. Sie finden Felix Su auf LinkedIn & X, und Sie können die deren Person des Jahres 2024deren Person of the Year 2024 sowie Person of the Year für 2021, 2022 und

Entwickler können mit Conversational AI beginnen, indem sie unsere Dokumentation und Unternehmen, die vertrauenswürdige Conversational Voice-Agent-Lösungen in der Produktion einsetzen möchten, können sich an das Enterprise Solutions Team von ElevenLabs und