Was ist AIUC-1 und warum ist es wichtig für Vertrauen in Unternehmens-KI?

Unternehmens-KI wird erwachsen. Agenten, die als Pilotprojekte starteten, führen heute Kundengespräche, lösen Workflows aus und handeln in der Produktion mit aktuellen Geschäftsdaten. Wenn Unternehmen KI-Agenten in diesem Umfang produktiv einsetzen, werden Vertrauen, Sicherheit und Zuverlässigkeit entscheidend.

Jede transformative Technologie erreicht diesen Punkt. Zahlungssysteme haben PCI DSS. Cloud-Infrastrukturen haben SOC 2. Unabhängige Standards machten aus beiden Systeme, die Unternehmen ohne umfangreiche Einzelfallprüfung einsetzen. Jetzt erhalten auch KI-Agenten ihren Standard.

Die AIUC-1-Zertifizierung ist der weltweit erste Standard für Sicherheit, Unbedenklichkeit und Zuverlässigkeit, der speziell für KI-Agenten entwickelt wurde. Sie wurde von der Artificial Intelligence Underwriting Company (AIUC) gemeinsam mit Forschern des MIT, von MITRE und Stanford entwickelt und bietet Unternehmen einen unabhängigen Maßstab, den sie schon heute nutzen können.

ElevenLabs ist das erste Voice-KI-Unternehmen mit AIUC-1-Zertifizierung. Unsere Agenten durchliefen 5.835 technische Tests in 14 Risikokategorien. Das belegt ihre Robustheit für den Einsatz in Unternehmen und ermöglicht einen bislang einzigartigen Versicherungsschutz für die KI-Agenten, die unsere Kunden einsetzen.

Dieser Leitfaden erklärt, was der AIUC-1-Standard abdeckt, wie er sich von anderen Compliance-Frameworks wie SOC 2 und ISO 42001 unterscheidet und wie der Zertifizierungsprozess abläuft.

Dieser Leitfaden dient nur der allgemeinen Information und stellt keine Rechtsberatung dar. Die Anforderungen hängen von Ihren Systemen, Daten und Rechtsräumen ab. Klären Sie Ihre Pflichten daher mit einem Rechtsbeistand.

Zusammenfassung

• Die AIUC-1-Zertifizierung ist der erste unabhängige Standard für die Sicherheit, Unbedenklichkeit und Zuverlässigkeit von KI-Agenten, der sich auf konkrete Tests von Agenten konzentriert.
• Das Framework gliedert 51 Anforderungen in sechs Risikobereiche. Die zugrunde liegenden Kontrollen richten sich nach den Fähigkeiten des jeweiligen Agenten.
• AIUC-1 prüft das Verhalten von Agenten mit Tausenden adversarialer Simulationen.
• ElevenLabs ist das erste Voice-KI-Unternehmen mit AIUC-1-Zertifizierung und KI-Versicherung und wirkt als Technical Contributor an sprachspezifischen Anforderungen mit.

Was ist AIUC-1?

AIUC-1 ist ein Zertifizierungsstandard für KI-Agenten der Artificial Intelligence Underwriting Company. Er prüft, ob ein KI-Agent technische Schutzmaßnahmen, operative Kontrollen und rechtliche Richtlinien umsetzt, die das Risiko unsicheren oder unbefugten Verhaltens in der Produktion verringern sollen. AIUC-1 umfasst sechs Säulen: Daten und Datenschutz, Sicherheit, Unbedenklichkeit, Zuverlässigkeit, Verantwortlichkeit und Gesellschaft.

Diese Zertifizierung gibt es, weil KI-Agenten die herkömmlichen Grenzen überschreiten, die SOC 2 und ISO 27001 voraussetzen. Agenten greifen auf Kundendaten zu, lösen Workflows aus, konsultieren interne Unternehmensrichtlinien, leiten Fälle an menschliche Mitarbeitende weiter und können innerhalb eines festgelegten Rahmens autonom handeln. Dadurch steigt das Risiko unbefugter Tool-Aufrufe, Halluzinationen, Datenlecks oder Prompt-Injection deutlich.

AIUC-1 liefert Unternehmen unabhängige Nachweise dafür, wie ein KI-Agent unter adversarialen Bedingungen mit sensiblen Daten arbeitet. Es zeigt, dass ein Agent gegen definierte Sicherheits- und Zuverlässigkeitsrisiken getestet wurde.

Die sechs Säulen von AIUC-1 verstehen

Das AIUC-1-Framework umfasst 51 Anforderungen und 130 Kontrollen, gegliedert in sechs Risikosäulen. Davon sind 65 Kontrollen verpflichtend und 65 optional – abhängig vom Umfang der Agentenfunktionen.

Die sechs Säulen von AIUC-1 decken den gesamten Lebenszyklus eines KI-Agenten-Deployments ab:

• Daten und Datenschutz: Die erste Säule von AIUC-1 schützt vor Datenlecks, Training mit Nutzerdaten ohne Einwilligung und dem Abfluss geistigen Eigentums. Die Anforderungen umfassen Richtlinien für Ein- und Ausgabedaten, begrenzten Datenzugriff für KI-Agenten, den Schutz von geistigem Eigentum und Geschäftsgeheimnissen, die Verhinderung kundenübergreifender Datenoffenlegung sowie den Schutz vor der Offenlegung personenbezogener Daten, IP-Verstößen und der Preisgabe von Zugangsdaten oder Geheimnissen. Weitere Informationen dazu, wie Sie die Konformität mit allen Teilen der AIUC-1-Anforderungen für Daten und Datenschutz nachweisen, finden Sie auf der offiziellen Seite.
• Sicherheit: Schützt vor adversarialen Angriffen wie Prompt-Injections und Jailbreaks sowie vor unbefugten Tool-Aufrufen. Zu den Anforderungen gehören unabhängige Tests auf Robustheit gegen Angriffe, die Verhinderung unbefugter Agentenaktionen, Zugriffskontrollen für Nutzer, der Schutz der Deployment-Umgebung sowie Schutzmaßnahmen gegen Scraping und Probing von KI-Endpunkten.
• Unbedenklichkeit: Verringert das Risiko schädlicher KI-Ausgaben und Markenrisiken durch Schutzmaßnahmen und Monitoring. Zu den zentralen Anforderungen zählen eine dokumentierte Risikotaxonomie, Tests vor dem Deployment und Kontrollen gegen schädliche Ausgaben, etwa Verzerrungen, Täuschung, risikoreiche Empfehlungen und anstößige Inhalte. Die Säule Unbedenklichkeit von AIUC-1 deckt zudem Ausgaben außerhalb des vorgesehenen Umfangs und die Eskalation risikoreicher Ausgaben zur Prüfung durch Menschen ab.
• Zuverlässigkeit: Soll Halluzinationen verhindern sowie unzuverlässige Tool-Aufrufe an verbundene Geschäftssysteme. Dieser Grundsatz umfasst nur vier Unterbereiche: Schutzmaßnahmen gegen halluzinierte Ausgaben, Einschränkungen unsicherer Tool-Aufrufe und unabhängige Tests für beide Schutzmechanismen.
• Verantwortlichkeit: Weist Verantwortlichkeiten zu und setzt Aufsicht durch. Die Anforderungen dieser Säule umfassen drei separate Pläne für KI-Ausfälle, die Prüfung vorgelagerter Anbieter, Aktivitätsprotokollierung, Datenverarbeitung und Offenlegungsmechanismen, die Nutzern mitteilen, wenn sie mit KI sprechen.
• Gesellschaft: Verringert das Risiko, dass KI durch Cyberangriffe gesellschaftlichen Schaden verursacht oder andere Sicherheitsrisiken schafft. Diese Kategorie besteht aus zwei Komponenten: KI-Missbrauch im Cyberbereich und katastrophalem Missbrauch. Beide setzen Leitplanken um, um das Risiko einer böswilligen Nutzung des Systems zu verringern.

Welche Anforderungen ein Modell erfüllen muss, hängt ebenfalls von seinen Fähigkeiten ab. So gibt es spezifische Anforderungen für Modelle zur Sprachgenerierung, Automatisierung, Codegenerierung oder Textgenerierung. Das bedeutet, dass ein Voice-Agent getestet wird – und zwar auf sprachspezifische Risiken statt anhand einer allgemeinen Checkliste.

Ein System durchläuft Tausende adversarialer Simulationen, um die AIUC-1-Zertifizierung zu erhalten. Jede Simulation basiert auf einem realen KI-Vorfall. Der Standard wird kontinuierlich aktualisiert, damit Modelle gegen die neuesten Bedrohungen aus der KI-Forschung getestet werden.

Wie AIUC-1 in das KI-Risikomanagement von Unternehmen passt

AIUC-1 kann bestehende Zertifizierungen ergänzen. Es prüft agentenspezifische Risiken, die Frameworks wie ISO 42001, das NIST AI RMF, der EU-KI-Verordnung, MITRE ATLAS und die OWASP Top 10 für LLM-Anwendungen nicht abdecken sollten, etwa Prompt-Injection, unbefugte Tool-Aufrufe und agentische Datenexfiltration.

Für Risikoteams liefert der Standard zudem quantifizierte Bestehens- und Nichtbestehensquoten für definierte Risikokategorien. Zentrale Risiken beim Einsatz von KI werden quantifiziert und gemessen. So erhalten Unternehmen eine dokumentierte Grundlage, um Risiken beim KI-Einsatz zu bewerten.

Auf dem ElevenLabs Summit in London stellte ElevenLabs' Marco Mancini unsere Vision für die Sicherheit von KI-Agenten vor: Was der Einsatz von KI-Systemen im großen Maßstab erfordert, welche Risiken bestehen und wie unabhängige Standards Vertrauen in KI-Agenten fördern können.

Die Session erläutert die Überlegungen hinter unserer Entscheidung, als erstes Voice-KI-Unternehmen die AIUC-1-Zertifizierung anzustreben, und wie Tests, Versicherungen und Standards zusammenwirken, um Risiken beim Einsatz in Unternehmen zu senken.

AIUC-1 im Vergleich zu anderen Compliance-Frameworks

AIUC-1 steht neben einigen weiteren Frameworks, die Unternehmen zur Bewertung von Anbietern nutzen – auch wenn nicht alle KI-spezifisch sind. Jedes beantwortet andere Fragen.

Das validiert jedes Framework und so nutzen Unternehmen es:

Einfach gesagt: SOC 2 zeigt einem Unternehmenskäufer, dass die Infrastruktur eines Anbieters über einen zurückliegenden Prüfzeitraum sicher war. AIUC-1 zeigt dagegen, dass ein KI-Agent gegen reale Angriffsvektoren getestet wird. Zusammen schaffen sie infrastrukturschutzübergreifende Sicherheit. AIUC-1 vermeidet jedoch bewusst, Arbeiten zu duplizieren, die Sie bereits für SOC 2 oder ISO 27001 durchgeführt haben.

Ein weiterer Unterschied von AIUC-1 ist sein Akkreditierungsmechanismus. Die AIUC akkreditiert AIUC-1-Auditoren und ergänzt das Audit anschließend durch eigene technische Tests.

So läuft die AIUC-1-Zertifizierung ab

Die AIUC-1-Zertifizierung dauert in der Regel vier bis acht Wochen, abhängig davon, wie ausgereift die bestehenden Leitplanken und KI-Schutzmaßnahmen einer Organisation sind.

Der Zertifizierungsprozess durchläuft vier Phasen:

1. Gap-Analyse: In der ersten Phase wird eine KI-Plattform auditiert, um Umfang und Fähigkeiten ihrer Agenten, bestehende Richtlinien, technische Dokumentation und vorhandene Schutzmaßnahmen zu ermitteln. In dieser Scoping- und Kick-off-Phase werden erste zu prüfende Lücken identifiziert und der Zertifizierungsvertrag unterzeichnet.
2. Behebung: Anschließend behebt Ihre Organisation alle Lücken in vorhandenen Leitplanken, rechtlichen Richtlinien oder technischen Implementierungen. Damit werden die identifizierten Lücken geschlossen und Sie können zur technischen Testphase übergehen.
3. Technische Bewertung: AIUC führt adversariale Tests an Ihrem Produktionssystem durch und prüft auf Halluzinationen, Möglichkeiten für Prompt-Injection, Datenlecks, unsichere Tool-Aufrufe, schädliche Ausgaben oder unsichere Praktiken.
4. Zertifizierungsaudit: Auf Grundlage der Leistung Ihrer Agenten in Phase 3 bewertet ein Auditor alle Nachweise unabhängig und entscheidet dann, ob die AIUC-1-Zertifizierung erteilt wird.

Am Ende des Auditprozesses erhalten Organisationen:

• Einen umfassenden Auditbericht mit vollständiger Aufschlüsselung der Ergebnisse
• Das AIUC-1-Zertifikat (bei Bestehen)
• Das AIUC-1-Badge zur Verwendung in Vertriebs- oder Marketingmaterialien (bei Bestehen)

Wie lange ist eine AIUC-1-Zertifizierung gültig?

Die AIUC-1-Zertifizierung ist 12 Monate gültig, stellt aber keine einmalige Momentaufnahme der Sicherheitsmaßnahmen eines Unternehmens dar. KI-Agenten werden vierteljährlich technisch getestet; alle technischen und rechtlichen Kontrollen werden jährlich erneut auditiert. Wenn neue Forschungsergebnisse oder spezifische KI-basierte Bedrohungsvektoren auftreten, kann die AIUC den Standard jedes Quartal aktualisieren und Agenten gegen die neue Bedrohungslage zertifizieren.

Welche Branchen beobachten die AIUC-1-Zertifizierung?

AIUC-1 ist ein freiwilliger Standard, den Unternehmen nutzen, um Anbieter von KI-Agenten hinsichtlich Zuverlässigkeit, Sicherheit und Unbedenklichkeit zu bewerten.

Einige Branchen verfolgen die AIUC-1-Zertifizierung besonders aufmerksam:

• Gesundheitswesen: Agenten, die personenbezogene Daten oder andere sensible Daten verarbeiten, profitieren von klaren, unabhängig getesteten Schutzmaßnahmen gegen Datenlecks und Halluzinationen.
• Enterprise-SaaS: Unternehmensanbieter, die Funktionen für KI-Agenten ergänzen, könnten die AIUC-1-Zertifizierung künftig in Sicherheitsfragebögen von Käufern und in Anbieteranforderungen sehen.
• Versicherungen: Versicherer, die Agenten für Gespräche mit Kunden zu Policen und Schadensfällen einsetzen, benötigen Vertrauen darin, dass ihre KI-Systeme korrekte Informationen liefern. Das senkt das Risiko im Underwriting.
• Finanzdienstleistungen: Banken und Fintechs, die Voice- und Chat-Agenten einsetzen, unterliegen strengen Pflichten bei Datenverarbeitung und Auditierbarkeit. Unser Playbook für KI-Agenten für Finanzdienstleistungen erläutert, wie zertifizierte Plattformen diese Deployments unterstützen können.

Es gibt einen Grund, warum Mitarbeiter von fast 70 % der Fortune-500-Unternehmen ElevenLabs nutzen. Die AIUC-1-Zertifizierung von ElevenLabs liefert Unternehmenskäufern unabhängige Nachweise dafür, wie unsere Agenten unter adversarialen Bedingungen arbeiten.

Mit ElevenAgents starten

ElevenAgents ist die erste Voice-KI-Plattform mit AIUC-1-Zertifizierung. ElevenLabs wirkt als Technical Contributor am Standard mit und gestaltet sprachspezifische Sicherheitsanforderungen mit. Die Plattform erfüllt zudem SOC 2 Type II und ist als PCI-DSS-Level-1-Dienstleister zertifiziert – der höchsten der vier PCI-DSS-Compliance-Stufen.

Der Zertifizierungsweg steht auch Kunden offen. Da AIUC-1-Anforderungen in die Plattform integriert sind, erfüllen Unternehmen, die auf ElevenAgents aufbauen, bereits bis zu 75 % der Zertifizierungsanforderungen und erreichen die vollständige Zertifizierung in der Regel innerhalb von vier Wochen. Immobiliare.it, Italiens größte Immobilienplattform, zertifizierte ihren rund um die Uhr verfügbaren Voice-Agent für Immobilienanfragen in vier Wochen. Für die Testkonfiguration waren weniger als zwei Stunden Entwicklungszeit nötig.

Bei ElevenLabs registrieren und Ihren ersten Agenten entwickeln oder den Vertrieb kontaktieren, um über regelkonforme Deployments für Unternehmen zu sprechen.

Häufige Fragen zu AIUC-1 und KI-Compliance