Was ist AIUC-1 und warum ist es wichtig für Vertrauen in Unternehmens-KI?

Enterprise-KI wird immer ausgereifter. Agenten, die als Pilotprojekte begannen, führen heute Kundengespräche, lösen Workflows aus und arbeiten in der Produktion mit Live-Geschäftsdaten. Wenn Unternehmen KI-Agenten in diesem Umfang produktiv einsetzen, werden Vertrauen, Sicherheit und Zuverlässigkeit entscheidend.

Jede transformative Technologie erreicht diesen Punkt. Zahlungssysteme haben PCI DSS. Cloud-Infrastrukturen haben SOC 2. Unabhängige Standards haben beide zu Systemen gemacht, die Unternehmen ohne aufwendige Einzelfallprüfung einsetzen. Nun bekommen auch KI-Agenten ihren Standard.

Die AIUC-1-Zertifizierung ist der weltweit erste Standard für Sicherheit, Schutz und Zuverlässigkeit, der speziell für KI-Agenten entwickelt wurde. Sie wurde von der Artificial Intelligence Underwriting Company (AIUC) gemeinsam mit Forschern von MIT, MITRE und Stanford entwickelt und bietet Unternehmen einen unabhängigen Maßstab, den sie schon heute nutzen können.

ElevenLabs ist das erste Voice-KI-Unternehmen mit AIUC-1-Zertifizierung. Unsere Agenten durchliefen 5.835 technische Tests in 14 Risikokategorien und bewiesen damit ihre Robustheit für den Unternehmenseinsatz. Gleichzeitig wurde ein branchenweit einzigartiger Versicherungsschutz für die KI-Agenten möglich, die unsere Kunden einsetzen.

Dieser Leitfaden erläutert, was der AIUC-1-Standard abdeckt, wie er sich von anderen Compliance-Frameworks wie SOC 2 und ISO 42001 unterscheidet und wie der Zertifizierungsprozess abläuft.

Dieser Leitfaden dient nur der allgemeinen Information und stellt keine Rechtsberatung dar. Die Anforderungen hängen von Ihren Systemen, Daten und Rechtsräumen ab. Klären Sie Ihre Pflichten daher mit einer Rechtsberatung.

Zusammenfassung

• Die AIUC-1-Zertifizierung ist der erste unabhängige Standard für die Sicherheit, den Schutz und die Zuverlässigkeit von KI-Agenten, der sich auf gezielte Agententests konzentriert.
• Das Framework gliedert 51 Anforderungen in sechs Risikosäulen. Die zugrunde liegenden Kontrollen richten sich nach den Fähigkeiten des jeweiligen Agenten.
• AIUC-1 testet das Verhalten von Agenten in Tausenden adversarialen Simulationen.
• ElevenLabs ist das erste Voice-KI-Unternehmen mit AIUC-1-Zertifizierung und KI-Versicherung und wirkt als Technical Contributor an sprachspezifischen Anforderungen mit.

Was ist AIUC-1?

AIUC-1 ist ein Zertifizierungsstandard für KI-Agenten der Artificial Intelligence Underwriting Company. Er überprüft, ob ein KI-Agent technische Schutzmaßnahmen, operative Kontrollen und rechtliche Richtlinien umsetzt, die das Risiko unsicheren oder unbefugten Verhaltens in der Produktion senken sollen. AIUC-1 umfasst sechs Säulen: Daten und Datenschutz, Sicherheit, Schutz, Zuverlässigkeit, Rechenschaftspflicht und Gesellschaft.

Diese Zertifizierung gibt es, weil KI-Agenten über die traditionellen Grenzen hinausgehen, die SOC 2 und ISO 27001 vorausgesehen haben. Agenten greifen auf Kundendaten zu, lösen Workflows aus, konsultieren interne Unternehmensrichtlinien, übergeben Fälle an menschliche Mitarbeitende und können innerhalb eines Rahmens autonom handeln. Dadurch steigt das Risiko unbefugter Tool-Aufrufe, Halluzinationen, Datenlecks oder Prompt-Injection deutlich.

AIUC-1 liefert Unternehmen unabhängige Nachweise dafür, wie ein KI-Agent unter adversarialen Bedingungen mit sensiblen Daten arbeitet. Es zeigt, dass ein Agent gegen definierte Sicherheits- und Zuverlässigkeitsrisiken getestet wurde.

Die sechs Säulen von AIUC-1 verstehen

Das AIUC-1-Framework besteht aus 51 Anforderungen und 130 Kontrollen, die in sechs Risikosäulen gegliedert sind. Davon sind 65 Kontrollen verpflichtend und 65 optional – abhängig vom Umfang der Aufgaben des Agenten.

Die sechs Säulen von AIUC-1 decken den gesamten Lebenszyklus eines KI-Agenten im Einsatz ab:

• Daten und Datenschutz: Die erste Säule von AIUC-1 soll vor Datenlecks, Training mit Nutzerdaten ohne Einwilligung und dem Abfluss geistigen Eigentums schützen. Die vollständigen Anforderungen umfassen eine Richtlinie für Eingabe- und Ausgabedaten, die Begrenzung des Datenzugriffs von KI-Agenten, den Schutz von geistigem Eigentum und Geschäftsgeheimnissen, die Verhinderung kundenübergreifender Datenoffenlegung sowie Schutzmaßnahmen gegen PII-Lecks, Verletzungen geistigen Eigentums und die Offenlegung von Zugangsdaten oder Geheimnissen. Weitere Informationen dazu, wie Sie die Konformität mit jedem Teil der AIUC-1-Anforderungen zu Daten und Datenschutz nachweisen, finden Sie auf der offiziellen Seite.
• Sicherheit: Soll vor adversarialen Angriffen schützen – etwa Prompt-Injections und Jailbreaks – sowie vor unbefugten Tool-Aufrufen. Zu den Anforderungen gehören Tests der adversarialen Robustheit durch Dritte, die Verhinderung unbefugter Agentenaktionen, Nutzerzugriffskontrollen, der Schutz der Einsatzumgebung sowie Schutzmaßnahmen gegen Scraping und Probing von KI-Endpunkten.
• Schutz: Senkt durch Schutzmaßnahmen und Monitoring das Risiko schädlicher KI-Ausgaben und von Markenrisiken. Zu den zentralen Anforderungen gehören eine dokumentierte Risikotaxonomie, Tests vor der Bereitstellung und Kontrollen gegen schädliche Ausgaben, etwa Verzerrungen, Täuschung, risikoreiche Beratung und anstößige Inhalte. Die Schutzsäule von AIUC-1 deckt auch Ausgaben außerhalb des vorgesehenen Umfangs sowie die Eskalation risikoreicher Ausgaben zur Prüfung durch Menschen ab.
• Zuverlässigkeit: Soll Halluzinationen verhindern sowie unzuverlässige Tool-Aufrufe an angebundene Geschäftssysteme. Dieses Prinzip umfasst nur vier Unterbereiche: Schutzmaßnahmen gegen halluzinierte Ausgaben, Beschränkungen unsicherer Tool-Aufrufe und Tests durch Dritte für beide Schutzmechanismen.
• Rechenschaftspflicht: Weist Verantwortlichkeiten zu und stellt Aufsicht sicher. Die Anforderungen dieser Säule umfassen drei separate Pläne für KI-Ausfälle, die Prüfung vorgelagerter Anbieter, Aktivitätsprotokollierung, Datenverarbeitung und Offenlegungsmechanismen, die Nutzern mitteilen, wenn sie mit KI sprechen.
• Gesellschaft: Senkt das Risiko, dass KI durch Cyberangriffe gesellschaftlichen Schaden verursacht oder andere Sicherheitsrisiken entstehen. Diese Kategorie besteht aus zwei Komponenten: KI-Missbrauch im Cyberbereich und katastrophaler Missbrauch. Beide setzen Guardrails um, um das Risiko einer böswilligen Nutzung des Systems zu senken.

Welche konkreten Anforderungen ein Modell erfüllen muss, hängt ebenfalls von seinen Fähigkeiten ab. Für Modelle zur Sprachgenerierung, Automatisierung, Codegenerierung oder Textgenerierung gelten beispielsweise festgelegte Anforderungen. Das bedeutet, dass ein Voice-Agent getestet wird – und zwar gegen sprachspezifische Risiken statt anhand einer allgemeinen Checkliste.

Ein System durchläuft Tausende adversariale Simulationen, um die AIUC-1-Zertifizierung zu erhalten. Jede Simulation basiert auf einem realen KI-Vorfall. Der Standard wird kontinuierlich aktualisiert, um Modelle gegen die neuesten Bedrohungen der KI-Forschung zu testen.

Wie AIUC-1 in das Risikomanagement für Enterprise-KI passt

AIUC-1 kann bestehende Zertifizierungen ergänzen. Es testet agentenspezifische Risiken, für die Frameworks wie ISO 42001, das NIST AI RMF, der EU AI Act, MITRE ATLAS und die OWASP Top 10 für LLM-Anwendungen nicht entwickelt wurden – etwa Prompt-Injection, unbefugte Tool-Aufrufe und agentenbasierte Datenexfiltration.

Für Risikoteams liefert der Standard zudem quantifizierte Bestehens- und Durchfallquoten über definierte Risikokategorien hinweg. Zentrale Risiken beim KI-Einsatz werden quantifiziert und gemessen. Das gibt Unternehmen eine dokumentierte Grundlage, um Risiken beim KI-Einsatz zu bewerten.

Beim ElevenLabs Summit in London stellte Marco Mancini von ElevenLabs unsere Vision für die Sicherheit von KI-Agenten vor: was es braucht, um KI-Systeme im großen Maßstab einzusetzen, welche Risiken bestehen und wie unabhängige Standards das Vertrauen in KI-Agenten stärken können.

Die Session erläutert die Gründe für unsere Entscheidung, als erstes Voice-KI-Unternehmen die AIUC-1-Zertifizierung anzustreben, und wie Tests, Versicherungen und Standards zusammenwirken, um Risiken beim Unternehmenseinsatz zu senken.

AIUC-1 mit anderen Compliance-Frameworks vergleichen

AIUC-1 ergänzt einige weitere Frameworks, die Unternehmen zur Bewertung von Anbietern nutzen, auch wenn nicht alle KI-spezifisch sind. Jedes beantwortet andere Fragen.

Das validiert jedes Framework und so nutzen Unternehmen es:

Einfach gesagt: SOC 2 zeigt einem Unternehmenskäufer, dass die Infrastruktur eines Anbieters während eines zurückliegenden Prüfzeitraums sicher war. AIUC-1 zeigt dagegen, dass ein KI-Agent gegen reale Angriffsvektoren getestet wurde. Beide ergänzen sich, um die Sicherheit der gesamten Infrastruktur zu gewährleisten. AIUC-1 vermeidet jedoch bewusst, Arbeiten zu duplizieren, die Sie bereits für SOC 2 oder ISO 27001 erledigt haben.

Ein weiterer Unterschied von AIUC-1 ist sein Akkreditierungsmechanismus. Die AIUC akkreditiert AIUC-1-Auditoren und kombiniert das Audit anschließend mit eigenen technischen Tests.

So läuft der AIUC-1-Zertifizierungsprozess ab

Eine AIUC-1-Zertifizierung dauert in der Regel vier bis acht Wochen – abhängig davon, wie ausgereift die bestehenden Guardrails und KI-Schutzmaßnahmen einer Organisation sind. 

Der Zertifizierungsprozess umfasst vier klar definierte Phasen:

1. Lückenanalyse: In der ersten Phase wird eine KI-Plattform geprüft, um den Umfang der Agenten, ihre bestehenden Richtlinien, ihre technische Dokumentation und ihre Schutzmaßnahmen zu ermitteln. Diese Scoping- und Kick-off-Phase identifiziert alle anfänglichen Testlücken; hier schließen Sie auch einen Zertifizierungsvertrag ab.
2. Behebung: Anschließend behebt Ihre Organisation alle Lücken in bestehenden Guardrails, rechtlichen Richtlinien oder technischen Implementierungen. Damit werden die identifizierten anfänglichen Lücken geschlossen und Sie können zur technischen Testphase übergehen.
3. Technische Bewertung: AIUC führt adversariale Tests an Ihrem Produktionssystem durch und prüft auf Halluzinationen, Möglichkeiten für Prompt-Injection, Datenlecks, unsichere Tool-Aufrufe, schädliche Ausgaben oder unsichere Praktiken. 
4. Zertifizierungsaudit: Auf Grundlage der Leistung Ihrer Agenten in Phase 3 bewertet ein Auditor alle Nachweise unabhängig und entscheidet anschließend, ob die AIUC-1-Zertifizierung erteilt wird.

Am Ende des Auditprozesses erhalten Organisationen:

• Einen umfassenden Auditbericht mit vollständiger Aufschlüsselung der Ergebnisse
• Das AIUC-1-Zertifikat (bei Bestehen)
• Das AIUC-1-Siegel für Vertriebs- oder Marketingmaterialien (bei Bestehen)

Wie lange ist eine AIUC-1-Zertifizierung gültig?

Die AIUC-1-Zertifizierung ist 12 Monate gültig, ist aber keine einmalige Momentaufnahme der Sicherheitsmaßnahmen eines Unternehmens. KI-Agenten werden vierteljährlich technisch getestet, während alle technischen und rechtlichen Kontrollen jährlich erneut auditiert werden. Auf Grundlage neuer Forschungsergebnisse oder neu auftretender KI-basierter Bedrohungsvektoren kann die AIUC den Standard jedes Quartal aktualisieren und Agenten gegen die neue Bedrohungslage zertifizieren.

Welche Branchen beobachten die AIUC-1-Zertifizierung?

AIUC-1 ist ein freiwilliger Standard, den Unternehmen nutzen, um Anbieter von KI-Agenten hinsichtlich Zuverlässigkeit, Sicherheit und Schutz zu bewerten. 

Einige Branchen beschäftigen sich besonders mit der AIUC-1-Zertifizierung:

• Gesundheitswesen: Agenten, die PII oder andere sensible Daten verarbeiten, profitieren von expliziten, unabhängig getesteten Schutzmaßnahmen gegen Datenlecks und Halluzinationen.
• Enterprise SaaS: Unternehmensanbieter, die KI-Agentenfunktionen ergänzen, könnten die AIUC-1-Zertifizierung in Sicherheitsfragebögen von Käufern und in Anbieteranforderungen vorfinden.
• Versicherungen: Versicherer, die Agenten für Gespräche mit Kunden zu Policen und Schadensfällen einsetzen, wollen darauf vertrauen können, dass ihre KI-Systeme korrekte Informationen liefern. Das senkt das Risiko im Underwriting.
• Finanzdienstleistungen: Banken und Fintechs, die Voice- und Chat-Agenten einsetzen, unterliegen strengen Vorgaben für Datenverarbeitung und Auditierbarkeit. Unser Leitfaden für KI-Agenten für Finanzdienstleistungen erklärt, wie zertifizierte Plattformen diese Einsätze unterstützen können.

Es gibt einen Grund, warum Mitarbeitende von fast 70 % der Fortune-500-Unternehmen ElevenLabs nutzen. Die AIUC-1-Zertifizierung von ElevenLabs liefert Unternehmenskäufern unabhängige Nachweise dafür, wie unsere Agenten unter adversarialen Bedingungen arbeiten.

Mit ElevenAgents starten

ElevenAgents ist die erste Voice-KI-Plattform mit AIUC-1-Zertifizierung. ElevenLabs wirkt als Technical Contributor am Standard mit und gestaltet sprachspezifische Sicherheitsanforderungen mit. Die Plattform verfügt außerdem über SOC 2 Type II und ist als PCI-DSS-Level-1-Serviceanbieter zertifiziert – der höchsten der vier PCI-DSS-Compliance-Stufen.

Der Zertifizierungsweg erstreckt sich auf Kunden. Da AIUC-1-Anforderungen in die Plattform integriert sind, erfüllen Unternehmen, die auf ElevenAgents aufbauen, zu Beginn bereits bis zu 75 % der Zertifizierungsanforderungen und erreichen die vollständige Zertifizierung in der Regel innerhalb von vier Wochen. Immobiliare.it, Italiens größte Immobilienplattform, zertifizierte ihren rund um die Uhr verfügbaren Voice-Agent für Immobilienanfragen in vier Wochen. Für die Konfiguration der Tests waren weniger als zwei Stunden Entwicklungszeit nötig.

Bei ElevenLabs registrieren und Ihren ersten Agenten entwickeln oder Vertrieb kontaktieren und über einen compliance-konformen Unternehmenseinsatz sprechen. 

Häufig gestellte Fragen zu AIUC-1 und KI-Compliance