Gotowe do produkcji Conversational AI na skalę przedsiębiorstwa: z Felixem Su z Scale AI

Sukces AI w firmach to nie tylko najnowsza technologia—chodzi o odpowiednią architekturę i kontrolę opartą na podstawach AI. Gotowe LLM są potężne, ale brakuje im głębokiej wiedzy o tym, jak przestrzegać logiki biznesowej, wytycznych marki i zasad bezpieczeństwa. Takie dostosowane doświadczenie można osiągnąć tylko poprzez staranne zaprojektowanie i przetestowanie systemu składającego się z promptów, LLM, zabezpieczeń, narzędzi i innych elementów, które kierują zachowaniem generatywnego AI zgodnie z zasadami firmy.

Siła Separacji: Dlaczego Architektura Ma Znaczenie

Podczas tworzenia Rozmowy z głosem AI, deweloperzy mogą pracować z modelami wielomodalnymi, głos-głos, lub łączyć elementy ASR (transkrypcja), LLM i TTS. Dla firm z konkretnymi zastosowaniami, to drugie rozwiązanie często jest bardziej praktyczne.

"W firmach samo użycie LLM-ów często nie wystarcza" – tłumaczy Felix Su, Head of Engineering w Scale GenAI Platform. „Trzeba zaprojektować złożony system, który będzie działał zgodnie z logiką biznesową, dbał o wizerunek marki i trzymał się określonych zasad. Każda firma ma tu własne wymagania, więc lepiej budować takie systemy na bazie LLM-ów, zamiast polegać tylko na ich domyślnym działaniu. Choć ostatnio modele mają już wbudowane możliwości multi-modalne, ich wdrożenie w kluczowych zastosowaniach produkcyjnych idzie wolniej niż się spodziewano. Wynika to z braku kontroli nad tym, co i jak generują oraz jakie dane przyjmują i zwracają. W przypadku TIME AI użycie STT i TTS pozwoliło nam kontrolować dane wejściowe do LLM-ów i zabezpieczać wyjścia systemu własnymi regułami. Często to praktyczniejsze niż bezpośrednie korzystanie z multi-modalnych LLM-ów."

Podczas tworzenia doświadczenia TIME AI, Scale zaindeksowało korpus artykułów TIME do baz wiedzy do pobierania na żądanie, zakodowało logikę biznesową w serii promptów systemowych i chroniło wyjścia GenAI przed halucynacjami i naruszeniami zarówno zasad bezpieczeństwa, jak i wytycznych marki. Na bazie tego systemu ożywili doświadczenie głosem z platformy orkiestracji Conversational AI od ElevenLabs.

Doświadczenie TIME's Person of the Year: Gdzie Głos Robi Różnicę

Niedawne uruchomienie TIME AI pozwala czytelnikom na naturalne rozmowy o dziennikarstwie TIME, w tym o ich kultowym Person of the Year. Co wyróżnia tę implementację spośród wielu innych chatbotów, to nie tylko wiedza—ale głos.

"Użycie głosu naprawdę dodało temu fajnego, dynamicznego charakteru," wspomina Su. "Bez tego, ginie w tłumie jako kolejny chatbot. Chcieliśmy, aby agent był jak żywy partner do czytania, dostępny do swobodnych, głębokich rozmów." Implementacja łączy wiedzę Scale AI w zakresie rozwoju AI z platformą Conversational AI od ElevenLabs, tworząc doświadczenie, które wydaje się niezwykle ludzkie, jednocześnie utrzymując ścisłą kontrolę nad treścią i głosem marki.

Budowanie Systemów Gotowych na Firmy

Dla firm chcących wdrożyć Conversational AI na dużą skalę, współpraca z Scale AI i ElevenLabs oferuje sprawdzoną ścieżkę. Scale AI wnosi głęboką wiedzę w budowaniu kontrolowanych, bezpiecznych systemów AI wielomodalnych z solidnymi zabezpieczeniami, podczas gdy ElevenLabs dostarcza najlepszą w swojej klasie technologię głosu, którą można płynnie zintegrować z tymi systemami.

Choć implementacja TIME skupia się na dziennikarstwie, ta sama architektura może być zastosowana w różnych przypadkach użycia w firmach, szczególnie w obsłudze klienta i wsparciu. Klienci mają dość podstawowych chatbotów, ponieważ oczekują bardziej angażujących, ludzkich interakcji.

Dziękujemy Felixowi za wkład w ten post. Możesz znaleźć Felixa Su na LinkedIn & X, a możesz sprawdzić ich Osobowość roku 2024ich Person of the Year 2024, a także Person of the Year za 2021, 2022 i

Deweloperzy mogą zacząć z Conversational AI, korzystając z naszej dokumentacji, oraz firmy chcące wdrożyć zaufane rozwiązania Conversational Agent głosowy w produkcji mogą skontaktować się z zespołem rozwiązań Enterprise w ElevenLabs i