Cos'è AIUC-1 e perché è importante per la fiducia nell'IA aziendale

L'IA aziendale sta maturando. Gli agenti che inizialmente erano progetti pilota ora gestiscono conversazioni con i clienti, attivano workflow e operano su dati aziendali in tempo reale in produzione. Man mano che le aziende portano gli agenti IA in produzione su questa scala, fiducia, sicurezza e affidabilità diventano fondamentali.

Ogni tecnologia trasformativa raggiunge questo punto. I sistemi di pagamento hanno PCI DSS. Le infrastrutture cloud hanno SOC 2. Gli standard indipendenti hanno trasformato entrambi in sistemi che le aziende adottano senza lunghe valutazioni individuali. Ora anche gli agenti IA hanno il loro standard.

La certificazione AIUC-1 è il primo standard al mondo di sicurezza, protezione e affidabilità creato appositamente per gli agenti IA. Sviluppata dall'Artificial Intelligence Underwriting Company (AIUC) con ricercatori di MIT, MITRE e Stanford, offre alle aziende un benchmark indipendente utilizzabile già oggi.

ElevenLabs è la prima azienda di IA vocale a ottenere la certificazione AIUC-1. I nostri agenti sono stati sottoposti a 5.835 test tecnici in 14 categorie di rischio, dimostrando la loro solidità per l'implementazione aziendale e ottenendo una copertura assicurativa senza precedenti per gli agenti IA implementati dai nostri clienti.

Questa guida spiega cosa copre lo standard AIUC-1, come si confronta con altri framework di conformità come SOC 2 e ISO 42001 e cosa prevede il processo di certificazione.

Questa guida ha finalità informative generali e non costituisce consulenza legale. I requisiti dipendono dai tuoi sistemi, dati e dalle giurisdizioni applicabili, quindi verifica i tuoi obblighi con un consulente legale.

In sintesi

• La certificazione AIUC-1 è il primo standard indipendente per sicurezza, protezione e affidabilità degli agenti IA, incentrato su test specifici degli agenti.
• Il framework organizza 51 requisiti in sei pilastri di rischio, con controlli adattati alle capacità di ciascun agente.
• AIUC-1 verifica il comportamento degli agenti attraverso migliaia di simulazioni avversarie.
• ElevenLabs è la prima azienda di IA vocale a ottenere la certificazione AIUC-1 con AI Insurance e partecipa come Technical Contributor ai requisiti specifici per la voce.

Cos'è AIUC-1?

AIUC-1 è uno standard di certificazione per agenti IA creato dall'Artificial Intelligence Underwriting Company. Verifica che un agente IA implementi le misure di protezione tecniche, i controlli operativi e le policy legali progettati per ridurre il rischio di comportamenti non sicuri o non autorizzati in produzione. AIUC-1 si basa su sei pilastri: dati e privacy, sicurezza, protezione, affidabilità, responsabilità e società.

Questa certificazione esiste perché gli agenti IA vanno oltre i limiti tradizionali previsti da SOC 2 e ISO 27001. Gli agenti accedono ai dati dei clienti, attivano workflow, consultano policy aziendali interne, inoltrano i casi ad agenti umani e possono agire autonomamente all'interno di un framework. Di conseguenza, il rischio di tool call non autorizzate, allucinazioni, fughe di dati o prompt injection diventa molto più significativo.

AIUC-1 offre alle aziende prove indipendenti di come un agente IA si comporta in condizioni avversarie con dati sensibili. Dimostra che l'agente è stato testato rispetto a rischi definiti di sicurezza e affidabilità.

I sei pilastri di AIUC-1

Il framework AIUC-1 comprende 51 requisiti e 130 controlli, organizzati in sei pilastri di rischio. Di questi controlli, 65 sono obbligatori e 65 facoltativi, in base all'ambito operativo dell'agente.

I sei pilastri di AIUC-1 coprono l'intero ciclo di vita dell'implementazione di un agente IA:

• Dati e privacy: Il primo pilastro di AIUC-1 mira a proteggere da fughe di dati, addestramento su dati degli utenti senza consenso e fuga di proprietà intellettuale. I requisiti comprendono la definizione di una policy per i dati in input e output, la limitazione dell'accesso dell'agente IA ai dati, la protezione della proprietà intellettuale e dei segreti commerciali, la prevenzione dell'esposizione di dati tra clienti e la protezione dalla fuga di PII, dalle violazioni della proprietà intellettuale e dall'esposizione di credenziali o segreti. Per maggiori informazioni su come dimostrare la conformità a ogni parte dei requisiti AIUC-1 relativi a dati e privacy, consulta la pagina ufficiale.
• Sicurezza: Mira a proteggere dagli attacchi avversari come prompt injection e jailbreak, oltre che dalle tool call non autorizzate. I requisiti includono test di robustezza avversaria condotti da terze parti, prevenzione delle azioni non autorizzate degli agenti, controlli degli accessi utente, protezione dell'ambiente di deployment e misure contro scraping e probing degli endpoint IA.
• Protezione: Riduce il rischio di output IA dannosi e il rischio per il brand grazie a misure di protezione e monitoraggio. I requisiti principali includono una tassonomia dei rischi documentata, test prima del deployment e controlli contro output dannosi, come pregiudizi, inganni, consigli ad alto rischio e contenuti offensivi. Il pilastro della protezione di AIUC-1 copre anche gli output fuori ambito e l'inoltro degli output ad alto rischio a persone per la revisione.
• Affidabilità: Mira a prevenire le allucinazioni e le tool call inaffidabili verso sistemi aziendali connessi. Questo principio comprende quattro sottosezioni, che includono misure contro gli output allucinati, restrizioni sulle tool call non sicure e test di terze parti per entrambe le protezioni.
• Responsabilità: Attribuisce responsabilità e impone la supervisione. I requisiti di questo pilastro includono tre piani distinti per i fallimenti dell'IA, due diligence sui fornitori upstream, registrazione delle attività, trattamento dei dati e meccanismi di divulgazione che informano gli utenti quando stanno parlando con un'IA.
• Società: Riduce il rischio che l'IA causi danni sociali attraverso attacchi informatici o altri rischi per la sicurezza. Questa categoria ha due componenti, l'uso improprio dell'IA per attacchi informatici e l'uso improprio catastrofico, entrambe implementano guardrail per ridurre il rischio che il sistema venga usato per scopi illeciti.

I requisiti specifici a cui un modello deve conformarsi dipendono anche dalle sue capacità. Ad esempio, esistono requisiti definiti per modelli di generazione vocale, automazione, generazione di codice o generazione di testo: questo significa che un agente vocale viene testato rispetto a rischi specifici della voce, anziché in base a una checklist generica.

Per ottenere la certificazione AIUC-1, un sistema deve superare migliaia di simulazioni avversarie. Ciascuna simulazione è modellata su un incidente reale legato all'IA e lo standard viene aggiornato costantemente per testare i modelli rispetto alle minacce più recenti individuate dalla ricerca sull'IA.

Il ruolo di AIUC-1 nella gestione del rischio dell'IA aziendale

AIUC-1 può integrare le certificazioni esistenti. Verifica rischi specifici degli agenti che framework come ISO 42001, il NIST AI RMF, l'EU AI Act, MITRE ATLAS, e l'OWASP Top 10 per le applicazioni LLM non sono stati creati per coprire, come prompt injection, tool call non autorizzate ed esfiltrazione dei dati da parte degli agenti.

Per i team di gestione del rischio, lo standard produce anche tassi quantitativi di superamento/non superamento nelle categorie di rischio definite. I principali rischi legati all'implementazione dell'IA vengono quantificati e misurati. Questo offre alle aziende una base documentata per valutare il rischio dell'implementazione dell'IA.

All'ElevenLabs Summit di Londra, Marco Mancini di ElevenLabs ha presentato la nostra visione della sicurezza degli agenti IA: cosa serve per implementare sistemi IA su larga scala, i rischi coinvolti e come gli standard indipendenti possono sostenere la fiducia negli agenti IA.

La sessione illustra le motivazioni della nostra decisione di perseguire per primi la certificazione AIUC-1 tra le aziende di IA vocale e come test, assicurazioni e standard collaborino per ridurre il rischio nel deployment aziendale.

Confronto tra AIUC-1 e altri framework di conformità

AIUC-1 si affianca a diversi framework che le aziende usano per valutare i fornitori, anche se non tutti sono specifici per l'IA. Ciascuno affronta un insieme diverso di questioni.

Ecco cosa convalida ciascun framework e come viene usato dalle aziende:

In parole semplici, SOC 2 comunica a un acquirente aziendale che l'infrastruttura di un fornitore è stata sicura durante un periodo di revisione storico, mentre AIUC-1 dimostra che un agente IA è testato rispetto a vettori di attacco reali. Insieme forniscono sicurezza per l'intera infrastruttura, ma AIUC-1 evita deliberatamente di duplicare il lavoro che hai già svolto per SOC 2 o ISO 27001.

Un altro elemento distintivo di AIUC-1 è il suo meccanismo di accreditamento. AIUC accredita i revisori AIUC-1 e poi abbina l'audit ai propri test tecnici.

Come funziona il processo di certificazione AIUC-1

La certificazione AIUC-1 richiede in genere da quattro a otto settimane, a seconda del livello di maturità dei guardrail e delle misure di protezione IA già presenti nell'organizzazione.

Il processo di certificazione si articola in quattro fasi distinte:

1. Valutazione delle lacune: La prima fase verifica una piattaforma IA per stabilire l'ambito operativo dei suoi agenti, le policy esistenti che usano, la documentazione tecnica disponibile e le misure di protezione adottate. Questa fase di definizione dell'ambito e avvio identifica tutte le lacune iniziali da testare ed è il momento in cui firmi un contratto di certificazione.
2. Risoluzione: Successivamente, la tua organizzazione risolverà tutte le lacune nei guardrail, nelle policy legali o nelle implementazioni tecniche esistenti. In questo modo vengono corrette le lacune iniziali identificate e puoi passare alla fase di test tecnici.
3. Valutazione tecnica: AIUC esegue test avversari sul tuo sistema in produzione, verificando la presenza di allucinazioni, opportunità di prompt injection, fughe di dati, tool call non sicure, output dannosi o pratiche non sicure.
4. Audit di certificazione: In base alle prestazioni dei tuoi agenti nella fase 3, un revisore valuterà in modo indipendente tutte le prove e deciderà quindi se rilasciare la certificazione AIUC-1.

Al termine del processo di audit, le organizzazioni ricevono:

• Un report di audit completo con il dettaglio dei risultati
• Il certificato AIUC-1, in caso di superamento
• Il badge AIUC-1 da mostrare nei materiali commerciali o di marketing, in caso di superamento

Per quanto tempo è valida una certificazione AIUC-1?

La certificazione AIUC-1 è valida per 12 mesi, ma non rappresenta una fotografia una tantum delle misure di sicurezza aziendali. I test tecnici sugli agenti IA vengono eseguiti trimestralmente, mentre tutti i controlli tecnici e legali completi vengono sottoposti nuovamente ad audit ogni anno. In base alle nuove ricerche o alla comparsa di vettori di minaccia specifici dell'IA, AIUC può aggiornare lo standard ogni trimestre e certificare gli agenti rispetto al nuovo panorama delle minacce.

Quali settori seguono la certificazione AIUC-1?

AIUC-1 è uno standard volontario, ma le aziende lo usano per valutare i fornitori di agenti IA in termini di affidabilità, sicurezza e protezione.

Alcuni settori stanno prestando attenzione alla certificazione AIUC-1:

• Sanità: Gli agenti che gestiscono PII o altri dati sensibili traggono vantaggio da misure esplicite, testate in modo indipendente, contro fughe di dati e allucinazioni.
• SaaS aziendale: I fornitori aziendali che aggiungono funzionalità di agenti IA potrebbero trovare la certificazione AIUC-1 nei questionari di sicurezza degli acquirenti e nei requisiti per i fornitori.
• Assicurazioni: Le compagnie che implementano agenti per gestire le conversazioni con i clienti su polizze e sinistri vogliono avere la certezza che i loro sistemi IA forniscano informazioni accurate, riducendo il rischio di esposizione nella sottoscrizione.
• Servizi finanziari: Banche e fintech che implementano agenti vocali e chat devono rispettare obblighi rigorosi in materia di trattamento dei dati e verificabilità. Il nostro playbook sugli agenti IA per i servizi finanziari spiega come le piattaforme certificate possano supportare questi deployment.

C'è un motivo se i dipendenti di quasi il 70% delle aziende Fortune 500 usano ElevenLabs. La certificazione AIUC-1 di ElevenLabs offre agli acquirenti aziendali prove indipendenti di come i nostri agenti si comportano in condizioni avversarie.

Inizia con ElevenAgents

ElevenAgents è la prima piattaforma di IA vocale a ottenere la certificazione AIUC-1 e ElevenLabs partecipa allo standard come Technical Contributor, contribuendo a definire i requisiti di sicurezza specifici per la voce. La piattaforma possiede anche la certificazione SOC 2 Type II ed è certificata come fornitore di servizi PCI DSS Level 1, il livello più alto dei quattro livelli di conformità PCI DSS.

Il percorso di certificazione si estende ai clienti. Poiché i requisiti AIUC-1 sono integrati nella piattaforma, le aziende che sviluppano con ElevenAgents partono con fino al 75% dei requisiti di certificazione già soddisfatti e in genere ottengono la certificazione completa in quattro settimane. Immobiliare.it, la più grande piattaforma immobiliare italiana, ha certificato il proprio agente vocale per le richieste immobiliari 24 ore su 24, 7 giorni su 7 in quattro settimane, con meno di due ore di lavoro di sviluppo necessarie per configurare i test.

Registrati a ElevenLabs per creare il tuo primo agente, oppure contatta le vendite per discutere un deployment aziendale conforme.

Domande frequenti su AIUC-1 e la conformità dell'IA