Salta al contenuto
AccediRegistrati
ContattaciAccedi

In primo piano: ElevenLabs al MIT EmTech Digital

Pubblicato

AscoltaAscolta questo articolo

Contatta il team vendite
Scopri di più
La scorsa settimana, alla conferenza MIT EmTech Digital di Londra, ho partecipato a un panel dedicato a come aziende, governi e mondo accademico possano collaborare per cogliere le opportunità e gestire le sfide legate ai prodotti IA avanzati.

Insieme a ElevenLabs, il panel vedeva la partecipazione di rappresentanti dell’Alan Turing Institute, dell’Ada Lovelace Institute e di BT, con Melissa Heikkilä di MIT Technology Review come moderatrice.

Un approccio a tre pilastri per la sicurezza dell’IA

In ElevenLabs sviluppiamo tecnologie audio IA con attenzione al loro impatto. Nel mio ruolo di responsabile della sicurezza IA, mi concentro su come dare strumenti a creator, aziende e utenti, prevenendo gli abusi e scoraggiando comportamenti scorretti. Durante il panel ho illustrato le azioni che abbiamo intrapreso per rendere ElevenLabs uno spazio più sicuro e innovativo, e ho promosso strategie che mettono al centro le sfide della sicurezza IA. Queste strategie includono:

Provenienza: significa distinguere i contenuti generati dall’IA da quelli reali, comprendendone l’origine. Gli strumenti di rilevamento IA a monte, come i classificatori, sono modelli probabilistici addestrati per riconoscere output generati dall’IA. In ElevenLabs abbiamo sviluppato l’AI Speech Classifier, che permette a chiunque di caricare campioni audio per verificare se provengono dalla nostra piattaforma. Collaboriamo anche con Loccus per migliorare le capacità di classificazione dei contenuti IA. Tuttavia, i classificatori non sono una soluzione definitiva per la provenienza: hanno dei limiti. Per superarli, sono nate soluzioni di rilevamento a valle, come metadati, watermark e sistemi di fingerprinting. Sosteniamo iniziative di settore come lo standard di metadati firmati crittograficamente C2PA, che offre il vantaggio di essere aperto e interoperabile e potrebbe permettere l’etichettatura dei contenuti IA sulle principali piattaforme di distribuzione come Instagram o Facebook.

Tracciabilità: assicura che i contenuti generati dall’IA possano essere ricondotti a un utente specifico. In ElevenLabs, i nostri sistemi ci permettono di collegare i contenuti generati sulla nostra piattaforma all’account di origine, e i nostri strumenti di clonazione vocale sono accessibili solo agli utenti che hanno verificato il proprio account con dati bancari. La tracciabilità garantisce che chi usa piattaforme IA sia responsabile delle proprie azioni e possa essere identificato dalle autorità competenti quando necessario.

Moderazione: consiste nel definire regole chiare su quali contenuti e usi sono accettabili, impedendo la generazione di contenuti che non rispettano tali regole. In ElevenLabs utilizziamo sistemi automatici per analizzare, segnalare e bloccare contenuti inappropriati. I moderatori umani esaminano i contenuti segnalati per garantire un’applicazione coerente delle policy. Miglioriamo costantemente la nostra tecnologia di moderazione per prevenire la creazione di contenuti che possano danneggiare la fiducia pubblica o la sicurezza. Endpoint di moderazione open source, come quello offerto da OpenAI, permettono di integrare facilmente la moderazione dei prompt in qualsiasi applicazione IA.

Collaborare per un obiettivo comune

Anche se per noi lo sviluppo sicuro dell’IA è una priorità, nessuna azienda può affrontare da sola il problema degli abusi. Durante il panel abbiamo riconosciuto la necessità di una collaborazione ampia tra aziende tech, governi, associazioni civili e cittadini per affrontare i cambiamenti sociali e ambientali e garantire un futuro digitale sicuro. In ElevenLabs ci impegniamo a mantenere un dialogo aperto nella nostra community e a sostenere iniziative come la Content Authenticity Initiative e l’Elections Safety Accord per contrastare la disinformazione.

Rendere la sicurezza dell’IA a prova di futuro

Durante il panel, tutti abbiamo concordato che i prodotti IA devono essere sviluppati e utilizzati in modo sicuro, ma senza limitare la creatività e gli usi inaspettati. In ElevenLabs vediamo spesso la nostra piattaforma usata per migliorare l’accessibilità dei contenuti digitali per chi ha bisogno di trascrizioni audio, o per restituire la voce a chi l’ha persa a causa della SLA o di altre condizioni di salute. Per far crescere le applicazioni IA è fondamentale sensibilizzare sui media IA, promuovere un’interazione critica con i contenuti digitali, diffondere strumenti per verificarne l’autenticità e formare sia il pubblico che le istituzioni a un uso etico dell’IA.

Articoli simili

Crea con l'audio IA della massima qualità

Contatta il team venditeRegistrati