ElevenLabs współpracuje z rządem Wielkiej Brytanii nad badaniami nad bezpieczeństwem głosowej AI

ElevenLabs zawarło nowe, trzyletnie partnerstwo z rządem Wielkiej Brytanii, aby badać społeczne i związane z bezpieczeństwem skutki technologii głosowej AI. Będziemy wspólnie badać, jak skutecznie ludzie rozpoznają, że rozmawiają z agentem AI, i czy ta wiedza wpływa na ich zachowanie.

Conversational AI może przynieść ogromne korzyści — od spersonalizowanej nauki po obsługę klienta 24/7 — ale musimy zadbać, by technologia nie służyła do oszukiwania ani wykorzystywania ludzi. Aby zapobiegać nadużyciom, wdrażamy zabezpieczenia bezpośrednio w naszych produktach i ściśle współpracujemy z rządami nad standardami bezpieczeństwa AI.

W ramach nowego memorandum udostępniamy rządowi Wielkiej Brytanii nasze zaawansowane modele głosowe do zakrojonych na szeroką skalę, kontrolowanych badań. Badania sprawdzą, jak dobrze ludzie rozróżniają człowieka i agenta AI podczas naturalnych rozmów. Badacze przyjrzą się też, jak zmienia się zachowanie ludzi i ich chęć ujawniania informacji, zależnie od tego, czy sądzą, że rozmawiają z człowiekiem, czy z agentem.

Ta współpraca potwierdza zaufanie do brytyjskiego przywództwa w AI: czołowa firma AI wybiera Wielką Brytanię na swoją siedzibę i współpracę z naszym światowej klasy Instytutem Bezpieczeństwa AI przy poważnych, konkretnych i innowacyjnych badaniach. Dzięki takim działaniom i partnerstwom możemy wykorzystać AI jako technologię, której ludzie ufają i która poprawia ich życie.

— Kanishka Narayan, minister ds. AI i bezpieczeństwa w internecie

Głos to najbardziej naturalny sposób na wykorzystanie pełnego potencjału AI, ale ludzie zaakceptują tę zmianę tylko wtedy, gdy zaufają technologii. Zabezpieczenia wbudowaliśmy w każdy element platformy ElevenLabs, a nowe partnerstwo badawcze z rządem Wielkiej Brytanii to kolejny ważny krok, by AI była wdrażana odpowiedzialnie.

— Mati Staniszewski, CEO ElevenLabs

Aby nasza technologia była używana odpowiedzialnie, stosujemy szeroki zestaw zabezpieczeń. Obejmuje to blokowanie klonowania głosów polityków i celebrytów, wymaganie weryfikacji przy Voice Cloning, a także klasyfikator audio AI, który pomaga określić, czy klip audio został wygenerowany przez ElevenLabs.

To partnerstwo następuje po uruchomieniu w zeszłym tygodniu ElevenLabs dla administracji publicznej, które pomaga organizacjom sektora publicznego świadczyć wielojęzyczne usługi 24/7. Pierwsi użytkownicy, tacy jak rząd Ukrainy, już wykorzystują tę technologię, by ułatwiać obywatelom dostęp do podstawowych usług, a inne instytucje korzystają z agentów AI agentów do obsługi około 5000 połączeń dziennie.