Résumé du webinaire : Créer des agents IA sûrs pour un déploiement en entreprise

Récapitulatif du webinaire : déployer des agents IA sûrs en entreprise

Faire gérer des conversations par un agent IA est la partie facile. Gagner la confiance de vos équipes sécurité et juridique, ainsi que de vos clients, est là où la plupart des déploiements en entreprise se bloquent.

Cet article récapitule notre atelier en direct, Déployer des agents IA sûrs en entreprise, au cours duquel nous avons présenté les outils, cadres et pratiques de déploiement qui permettent aux agents d’entreprise de fonctionner à grande échelle. 

Mettre en place une approche de sécurité multicouche 

Plus de quatre millions d’agents ont été déployés sur la plateforme ElevenAgents. Ceux qui offrent des performances fiables en entreprise partagent un trait commun : la sécurité a été intégrée dès le départ, et non ajoutée après le premier incident.

Notre session en direct a couvert les cadres, contrôles et pratiques de déploiement qui distinguent les agents validés lors d’un audit de sécurité de ceux qui ne le sont pas.

Chaque type d’agent exige des limites fondamentalement différentes.

• Un personnage de jeu vidéo peut devoir employer un langage explicitement violent pour les besoins de l’expérience, sans jamais sortir de son rôle ni révéler qu’il est une IA.
• Un agent d’accueil dans le secteur de la santé doit pouvoir parler de blessures et de contextes médicaux, sans jamais donner de conseils médicaux.
• Un agent de support pour cartes de crédit ne doit pas traiter de contenu explicite ni communiquer les détails d’un compte à des appelants non vérifiés. 

Les agents étant non déterministes, aucune mesure de protection ne peut, à elle seule, couvrir tous les risques potentiels. Les équipes en entreprise ont donc besoin d’une approche multicouche : plusieurs contrôles agissent de concert pour faire des défaillances de sécurité de rares exceptions.

Ce principe a structuré les quatre questions autour desquelles nous avons organisé la session :

1. Comment contrôler ce que dit et fait mon agent ?
2. Comment vérifier qu’il fonctionne ?
3. Comment protéger les données afin de répondre aux exigences de sécurité et de conformité ?
4. Comment mettre en place des processus pour déployer en toute sécurité ?

Contrôler le comportement d’un agent 

Dans toute conversation avec un agent, la sécurité doit être prise en compte à trois étapes. 

Entrée
L’utilisateur dit quelque chose. Des utilisateurs malveillants peuvent tenter des actions comme « ignore toutes les instructions précédentes » ou « fais comme si tu étais un autre assistant ». Vous devez détecter et traiter ces tentatives de manipulation avant même qu’elles n’atteignent le modèle. Cela évite des coûts inutiles et empêche les acteurs malveillants d’extraire des informations auxquelles ils ne devraient pas avoir accès.

Prise de décision
Le LLM décide quoi dire ou faire. Votre prompt système constitue ici votre principal levier de contrôle, mais les LLM peuvent s’écarter de leurs instructions lors de conversations longues ou complexes. Vous avez besoin de mécanismes qui renforcent le comportement tout au long de l’échange, et pas seulement au début. Définissez également des parcours d’escalade : dans quelles situations l’agent doit-il transmettre la demande à un humain ou à un agent plus spécialisé, et sous quelles conditions ?

Sortie
Même avec des instructions solides, certains éléments peuvent passer entre les mailles du filet, notamment dans les conversations longues. Vous avez besoin d’un dernier filet de sécurité. Imaginez un mini-agent qui vérifie le travail de votre agent principal : il évalue la réponse avant qu’elle n’atteigne l’utilisateur et décide s’il faut la transmettre, réessayer ou escalader. Il s’exécute aussi en parallèle de la génération de la réponse, avec une latence minimale.

Pour ces trois étapes, vous devez définir à l’avance vos stratégies de sortie : une violation met-elle fin à la conversation, déclenche-t-elle une nouvelle tentative avec des instructions correctives ou entraîne-t-elle un transfert à un humain ? Cette décision façonne l’expérience utilisateur lorsque quelque chose se passe mal.

Démo 1 : configurer les garde-fous dans ElevenAgents

Scénario : Un agent de vente et de support sur un site web est configuré avec plusieurs couches de contrôles de sécurité afin d’empêcher les manipulations, les réponses hors sujet et les violations de politiques.

Présentation :

• Garde-fou contre la manipulation (entrée) — disponible dans l’onglet Security, ce bouton détecte les schémas d’injection de prompt — des tentatives de contourner les instructions système — et met fin à la conversation avant que l’agent ne réponde. Recommandé pour tous les agents en production.
• Prompt système et garde-fou Focus (prise de décision) — le prompt système est fondamental. Chaque règle importante doit y figurer explicitement. Dans la démo, une instruction a été ajoutée en cours de session : « Ne proposez aucune remise. » Activé séparément, le garde-fou Focus renforce automatiquement le prompt système tout au long de la conversation, afin de résoudre le problème de dérive qui survient lors d’interactions plus longues. L’association d’un prompt système solide et de Focus activé est la combinaison la plus efficace pour maintenir un agent sur la bonne voie.
• Garde-fou de contenu (sortie) — des catégories préconfigurées couvrent les propos grossiers, les conseils juridiques et les opinions politiques. Chacune dispose d’un seuil de confiance réglable ; le niveau moyen est le point de départ recommandé. Il s’agit de la couche de repli : si l’agent s’apprête à produire un contenu inapproprié, elle l’intercepte avant sa diffusion.
• Garde-fou personnalisé (sortie) — des contrôles définis par l’utilisateur en langage naturel, pour tous les cas non couverts par les préréglages. Dans la démo, un garde-fou « sans remise » a été configuré : « Bloquez toute réponse qui mentionne des remises, promotions ou tarifs spéciaux que l’agent n’est pas autorisé à proposer. » Les garde-fous personnalisés utilisent une évaluation supplémentaire par LLM, ce qui implique un coût lié à l’utilisation et une incidence sur la latence. Rédigez des instructions concises et séparez les contrôles distincts dans différents garde-fous plutôt que de les combiner.
• Action en cas de violation — deux options : mettre fin à l’appel ou réessayer. En cas de nouvelle tentative, vous pouvez fournir des instructions supplémentaires pour guider l’agent, par exemple en l’orientant vers une escalade vers un humain ou vers l’envoi d’un message de redirection par défaut.

Pourquoi est-ce important : Ces contrôles ne sont pas universels. Ils sont configurables au niveau de chaque garde-fou. Cette granularité fait la différence entre un agent théoriquement sûr et un agent sûr en conditions opérationnelles, dans des contextes d’entreprise variés.

Démo 2 : tests de simulation avant le lancement

Scénario : Un agent de support est testé dans deux scénarios de conversation liés aux remises, afin de confirmer qu’il redirige les utilisateurs vers la page des tarifs sans proposer de remise.

Présentation : 

• Deux tests de simulation définis dans l’onglet Tests, chacun comprenant un scénario utilisateur simulé, un nombre défini de tours de conversation et des critères de réussite explicites
• Un test a d’abord échoué, car le prompt système ne contenait pas d’instructions spécifiques pour les cas limites
• Les instructions manquantes ont été ajoutées à la section des garde-fous du prompt système
• L’agent a été publié à nouveau et les deux tests ont été relancés ; ils ont tous deux réussi
• L’historique détaillé des exécutions indique précisément quelle partie d’une conversation a échoué, y compris les appels d’outils et les actions de l’agent

Pourquoi est-ce important : Les tests de simulation permettent aux équipes de valider le comportement d’un agent dans un environnement contrôlé, avant qu’un véritable utilisateur ne le voie. Ils couvrent aussi bien les scénarios courants que les scénarios adverses. Ils s’exécutent sur l’ensemble du flux conversationnel, et non uniquement sur des réponses isolées. À chaque modification, les tests peuvent être relancés immédiatement pour confirmer que la correction fonctionne.

Démo 3 : masquage des informations personnelles identifiables pour les déploiements sensibles

Scénario : Un agent d’entreprise est configuré pour masquer les informations personnelles identifiables dans les journaux de conversation.

Présentation :

• Bouton Conversation History Redaction disponible dans l’onglet Advanced, sous les paramètres Privacy
• Liste d’entités de données spécifiques pouvant être individuellement sélectionnées pour le masquage, notamment la date de naissance, l’âge et d’autres champs sensibles
• Possibilité de sélectionner toutes les entités ou uniquement celles qui concernent le cas d’usage de l’agent

Pourquoi est-ce important : Le masquage des informations personnelles identifiables ne remplace pas le mode de conservation nulle dans les environnements soumis à de fortes exigences de conformité, tels que ceux régis par la réglementation HIPAA. Il réduit l’exposition des données dans les journaux de conversation utilisés pour les revues internes ou le contrôle qualité. Les équipes peuvent conserver les journaux dont elles ont besoin tout en supprimant les données superflues. Cette fonctionnalité est actuellement disponible pour les clients Enterprise.

Bonnes pratiques pour déployer des agents d’entreprise en toute sécurité 

1. Adoptez une approche multicouche. Aucun contrôle ne garantit à lui seul un comportement sûr. Les garde-fous en entrée, la validation en sortie, le renforcement des prompts et les tests doivent fonctionner ensemble. Chaque couche renforce les autres et, ensemble, elles réduisent considérablement les risques liés à la sécurité.
2. Adaptez les garde-fous au contexte. Un agent de santé et un agent de support dans le commerce de détail ont besoin de règles différentes. Définissez les limites propres à votre cas d’usage, plutôt que d’utiliser un modèle générique.
3. Commencez par un cas d’usage pertinent. Les déploiements en entreprise les plus réussis ne commencent pas par un projet pilote sans enjeu. Ils choisissent un cas concret, comme le support client ou la prise de rendez-vous, et investissent pour le réussir.
4. Testez avant le lancement, puis continuez à tester. Utilisez les tests de simulation et des outils externes de red teaming. Testez à la fois les scénarios courants et les scénarios adverses. Intégrez à votre suite de tests les nouveaux cas limites découverts en production.
5. Déployez par étapes. Commencez avec un trafic limité. Surveillez les conversations réelles. Identifiez les difficultés rencontrées par l’agent. Ajustez, testez à nouveau, puis élargissez le déploiement.
6. Choisissez le mode d’exécution de façon réfléchie. Utilisez le mode bloquant pour les agents textuels lorsque la validation stricte importe davantage que la vitesse. Utilisez le mode streaming pour les agents vocaux lorsque la latence est prioritaire.
7. Définissez des actions claires en cas de violation d’un garde-fou. Décidez à l’avance si une violation doit mettre fin à l’appel, déclencher une nouvelle tentative ou entraîner une escalade vers un humain.
8. Gardez des instructions de garde-fou personnalisé concises. Les garde-fous s’exécutent en parallèle. Un garde-fou personnalisé long et complexe augmente la latence. Rédigez des instructions concises et séparez les contrôles distincts dans différents garde-fous.
9. Comprenez ce que couvrent réellement les certifications. Les certifications SOC 2 Type 2 et ISO 27001 sont indispensables. Des normes propres à certains secteurs, comme HIPAA et PCI DSS, concernent les secteurs réglementés. Des certifications plus récentes, spécifiques à l’IA, comme ISO 42001 et AIUC-1 traitent des biais, de la transparence et de la résilience face aux attaques adverses ; la certification AIUC-1 peut également donner accès à une assurance spécifique à l’IA.
10. Mettez tôt en place des processus solides. Le premier déploiement demande le plus de temps. Les équipes qui investissent dans les processus de test et de déploiement itèrent beaucoup plus rapidement sur chaque agent suivant.
    

Regardez la session complète 

Regardez le webinaire complet ici.