Nasz wielowarstwowy system zabezpieczeń dla agentów AI

Gdy agenci AI podejmują się zadań o wysokiej stawce, zespoły muszą mieć pewność, że będą działać bezpiecznie i przewidywalnie.

W ElevenAgents korzystamy z wielowarstwowej architektury zabezpieczeń: mechanizmów guardrails na każdym etapie rozmowy, testów adversarialnych przed wdrożeniem, monitorowania na produkcji, ochrony danych i niezależnej walidacji.

Żaden niedeterministyczny system nie ochroni przed każdym ryzykiem. Dzięki tym kompleksowym zabezpieczeniom czołowe firmy i instytucje publiczne korzystające z ElevenAgents mogą tworzyć agentów, którzy rzadko zawodzą, sprawnie wracają do działania i spełniają wysokie standardy bezpieczeństwa.

Ochrona na każdym etapie rozmowy

Możesz łatwo włączyć i skonfigurować mechanizmy chroniące trzy etapy każdej interakcji. To podstawa Guardrails 2.0 w ElevenAgents.

Wejście — sprawdzanie w czasie rzeczywistym tego, co wysyła użytkownik.

• Guardrails manipulacji niezależnie analizują dane wejściowe użytkownika i mogą zakończyć rozmowę, jeśli wykryją oznaki prompt injection.

Decyzja — jak agent jest prowadzony i utrzymywany na właściwym kursie, gdy decyduje, co zrobić.

• Prompty systemowe powinny zawierać jasne instrukcje dla agenta, np. by unikał nieodpowiednich tematów, określać, jak ma się przedstawiać, i ograniczać zakres jego działania.
• Workflowy i procedury mogą wymagać wywołania narzędzia przy najbardziej wrażliwych działaniach, np. weryfikacji tożsamości rozmówcy przed udostępnieniem danych konta.
• Guardrail Focus wzmacnia istniejące instrukcje systemowe i ogranicza odchodzenie od tematu, co jest szczególnie ważne w długich lub złożonych interakcjach.

Wyjście — niezależne walidatory działają równolegle z generowaniem odpowiedzi, dodając minimalne opóźnienie. Możesz je włączyć, aby blokowały odpowiedzi zawierające wrażliwe treści lub naruszające twoje zasady.

• Guardrails treści sprawdzają wrażliwe kategorie z osobnymi progami dla każdej z nich.
• Niestandardowe guardrails egzekwują reguły specyficzne dla danej dziedziny, zapisane prostym językiem i oceniane przez lekki model.
• Strategie wyjścia pozwalają określić, co dzieje się po uruchomieniu guardraila — np. zakończenie rozmowy, przekazanie jej człowiekowi lub ponowna próba odpowiedzi z instrukcjami korygującymi.

Solidne testy przed wdrożeniem

ElevenAgents oferuje rozbudowane funkcje testowe, dzięki którym osoby tworzące rozwiązania na platformie mogą znaleźć i naprawić problemy, zanim agent lub zmiana konfiguracji trafi na produkcję.

Symulacje pozwalają przeprowadzić pełną, wieloturową rozmowę z symulowanym użytkownikiem przed pierwszą prawdziwą interakcją. Określasz scenariusz, a symulator prowadzi rozmowę do rozwiązania, także z użyciem prawdziwych lub symulowanych wywołań narzędzi. Ponieważ kontrolujesz symulowanego użytkownika, możesz sprawić, by był wrogi lub manipulacyjny. Ten sam mechanizm, który sprawdza standardowe ścieżki, testuje więc też scenariusze adversarialne.

Zakres testów rozszerzają też inne funkcje:

• Powtarzanie uruchomień wykonuje test wielokrotnie, grupując błędy według przyczyny, aby ujawnić ich wzorce i przypadki brzegowe.
• Testy następnej odpowiedzi i wywołania narzędzia sprawdzają pojedyncze odpowiedzi i krytyczne działania.
• Testowanie dla konkretnych kanałów weryfikuje, czy agent będzie działać zgodnie z oczekiwaniami w każdym kanale, w którym go udostępniasz, ponieważ jego odpowiedzi można dostosować do kanału — np. być zwięzłym przez telefon, a szczegółowym w e-mailu.
• Red-teaming przez API. Testy można też uruchamiać przez API za pomocą SDK do red-teamingu.

Ocena i ulepszanie agentów po wdrożeniu

Po wdrożeniu agentów oceny stale analizują rozmowy na żywo. Dzięki podejściu LLM-as-a-judge każda rozmowa może być automatycznie oceniana według określonych przez ciebie kryteriów. Wyniki rozmów sprawdzisz w panelach, a problemy prześledzisz w szczegółowych logach zawierających przeszukiwalne transkrypcje, źródła, wywołania narzędzi i uruchomione guardrails.

Problemy wykryte na produkcji możesz łatwo przekazać z powrotem do zestawu testów. Gdy proponujesz zmianę, możesz użyć Experiments do skierowania części ruchu na żywo do wariantu i zmierzenia rzeczywistych wyników przed szerszym wdrożeniem.

Zalecamy wdrażanie etapami. Skieruj ograniczoną część ruchu do agenta, oceń te rozmowy, a gdy potwierdzisz, że działa zgodnie z oczekiwaniami, rozszerz wdrożenie o kolejne zastosowania, kanały lub regiony.

Ochrona wrażliwych danych

Agenci mogą obsługiwać dane płatnicze, informacje o zdrowiu i identyfikatory osobowe, dlatego ważne jest, jakie dane są przechowywane, gdzie i jak długo.

Oferujemy klientom różne mechanizmy ochrony danych:

• Zero Retention Mode można włączyć w kwalifikujących się usługach, aby określone rodzaje danych nie były przechowywane — z myślą o wymagających środowiskach regulacyjnych.
• Redakcja historii rozmów usuwa wrażliwe dane po rozmowie, zastępując je placeholderami w tekście i sygnałami dźwiękowymi w audio, aż po pojedyncze typy danych.
• Konfigurowalna retencja dostosowuje okresy przechowywania do wymogów regulacyjnych.
• Rezydencja danych zapewnia przetwarzanie danych na terenie wymaganej jurysdykcji.
• Prywatne wdrożenia (VPC) izolują środowisko dla zadań o wysokiej wrażliwości.
• Szyfrowanie chroni dane podczas przesyłania i przechowywania.

Zabezpieczenia na poziomie platformy i zewnętrzna walidacja

Wszystkie powyższe elementy opierają się na naszych szerszych zabezpieczeniach na poziomie platformy, czyli kompleksowym programie obejmującym pochodzenie treści, wykrywanie nadużyć, egzekwowanie zakazanych zastosowań i red-teaming modeli. W ramach Safety Partnership Program współpracujemy też z firmami, które są liderami w dziedzinie bezpieczeństwa AI, wspierając rozwój ich produktów i powstające standardy branżowe.

Nasze podejście poddajemy też niezależnej ocenie według ogólnych standardów bezpieczeństwa i prywatności, takich jak SOC 2 Type II, ISO 27001 i RODO, oraz certyfikacji branżowej i dla konkretnych zastosowań, jak PCI DSS Level 1 dla przetwarzania płatności i HIPAA dla amerykańskiej ochrony zdrowia. Więcej informacji znajdziesz w naszym centrum zaufania.

Spełniamy też nowsze standardy stworzone z myślą o AI, takie jak ISO 42001 dotyczący systemów zarządzania AI oraz AIUC-1, który wymaga, by agenci AI wytrzymywali kwartalne symulacje adversarialne prowadzone przez niezależnych oceniających. Te same możliwości, które stoją za AIUC-1, dają też dostęp do jednych z pierwszych w branży polis ubezpieczeniowych dla agentów.

Przy dużych lub złożonych wdrożeniach nasi Forward Deployed Engineers współpracują z twoim zespołem przy projektowaniu i wdrażaniu strategii dla agentów, w tym konfiguracji, guardrails, testów, monitorowania i strategii wdrożenia.

Podsumowanie

Nasze podejście do bezpieczeństwa w ElevenAgents jest wielowarstwowe — każdy element wzmacnia pozostałe:

• Konfiguracja agenta: prompty systemowe, workflowy i procedury kształtujące zachowanie, przy czym najbardziej wrażliwe działania wymagają wywołania narzędzia.
• Guardrails: niezależne kontrole na każdym etapie: wykrywanie manipulacji na wejściu, Focus na etapie decyzji oraz walidatory treści i niestandardowe na wyjściu, z konfigurowalnymi strategiami wyjścia.
• Testowanie: symulacje adversarialne, powtarzanie uruchomień, testy dla konkretnych kanałów i red-teaming przed wdrożeniem.
• Monitorowanie: etapowe wdrożenie, a następnie stała ocena, przeszukiwalne logi i transkrypcje oraz pętla informacji zwrotnej po wdrożeniu.
• Ochrona danych: redakcja, Zero Retention Mode, konfigurowalna retencja, rezydencja danych, prywatne wdrożenia (VPC) i szyfrowanie.
• Zewnętrzna walidacja: certyfikacje, niezależne testy adversarialne AIUC-1, ubezpieczenia dla agentów, red-teaming i wsparcie ekspertów.