Poznaj Eleven v4Poznaj Eleven v4, nasz najbardziej emocjonalny model. 3× więcej kredytów w planie Creator+ do 12 października

Zrealizuj
Przejdź do treści
Zaloguj sięZarejestruj się
Napisz do nasZaloguj się

W centrum uwagi: ElevenLabs na MIT EmTech Digital

Opublikowano

PosłuchajPosłuchaj tego artykułu

Skontaktuj się z działem sprzedaży
Dowiedz się więcej
Last week at the MIT EmTech Digital conference in London, I participated in a panel focused on how business, government, and academia can collaborate to maximize opportunities and manage challenges associated with advanced AI products.

Alongside ElevenLabs, the panel included leaders from the Alan Turing Institute, the Ada Lovelace Institute, and BT, with MIT Technology Review’s Melissa Heikkilä moderating the discussion.

Trzy filary bezpieczeństwa AI

W ElevenLabs tworzymy technologię audio AI, świadomi jej wpływu. Jako osoba odpowiedzialna za AI Safety skupiam się na wspieraniu twórców, firm i użytkowników, a jednocześnie zapobieganiu nadużyciom i odstraszaniu osób o złych zamiarach. Podczas panelu przedstawiłam działania, które podejmujemy, by ElevenLabs było bezpieczniejszym i bardziej innowacyjnym miejscem. Opowiedziałam też za strategiami, które stawiają wyzwania związane z bezpieczeństwem AI na pierwszym miejscu. Obejmują one:

Provenance: involves distinguishing AI-generated content from real content by understanding its origins. Upstream AI detection tools, such as classifiers, are probabilistic models trained to recognize AI-generated outputs. At ElevenLabs, we’ve developed the AI Speech Classifier that lets anyone upload samples to check if they originate from our platform. We’re also collaborating with Loccus to enhance AI content classification capabilities. Classifiers, however, are not a panacea solution for provenance; they have their limitations. To address them, downstream AI detection methods have emerged, including metadata, watermarks, and fingerprinting solutions. We endorse industry-wide efforts such as cryptographically signed metadata standard C2PA, which present the benefit of being open and interoperable and could enable labeling of AI-generated content across main distribution channels like Instagram or Facebook.

Identyfikowalność: pozwala powiązać treści wygenerowane przez AI z konkretnym użytkownikiem. W ElevenLabs nasze systemy umożliwiają nam połączenie treści powstałych na naszej platformie z kontem, z którego pochodzą, a nasze narzędzia Voice Cloning są dostępne tylko dla użytkowników, którzy zweryfikowali swoje konta danymi bankowymi. Nacisk na identyfikowalność sprawia, że każda osoba korzystająca z platform AI może odpowiadać za swoje działania i, gdy to konieczne, zostać zidentyfikowana przez organy ścigania.

Moderation: which involves defining clear policies on acceptable content and use, and preventing users from generating content that does not comply with such policies. At ElevenLabs, we use automated systems to scan, flag, and block inappropriate content. Human moderators review flagged content to ensure consistent policy enforcement. We are continually advancing our moderation technology to prevent the generation of content that could harm public trust or safety. Open source moderation endpoints, such as the one provided by OpenAI, enable easy integration of prompt moderation into any AI applications.

Working together towards a common goal

While we prioritize safe AI development, no company can tackle AI misuse alone. At the panel, we recognized the need for widespread collaboration among tech companies, governments, civil rights groups, and the public to confront social and environmental changes and ensure a secure digital future. At ElevenLabs, we’re dedicated to maintaining open dialogue in our community and supporting initiatives like the Content Authenticity Initiative and the Elections Safety Accord to combat misinformation.

Bezpieczeństwo AI gotowe na przyszłość

Wszyscy zgodziliśmy się podczas panelu, że produkty AI muszą być tworzone i używane bezpiecznie. Jednocześnie musimy pozwalać na ich kreatywne i nieoczekiwane zastosowania. W ElevenLabs często widzimy, jak nasza platforma poprawia dostępność treści cyfrowych dla osób potrzebujących transkrypcji audio oraz przywraca głos osobom, które straciły go przez ALS i inne schorzenia. Aby aplikacje AI mogły się rozwijać, trzeba zwiększać świadomość na temat mediów AI, zachęcać do krytycznego podejścia do treści cyfrowych, promować narzędzia do weryfikacji autentyczności oraz edukować społeczeństwo i instytucje w zakresie etycznego korzystania z AI.

Podobne artykuły

Twórz z najwyższej jakości audio AI

Porozmawiaj z działem sprzedażyZarejestruj się