Agent Risk Manager surveille les agents d’IA de votre environnement et signale les activités à risque comme des détections. Cet article explique les événements surveillés par Agent Risk Manager, les quatre catégories de détection qu’il attribue et la façon d’examiner les événements détectés.
Événements surveillés
Agent Risk Manager reçoit des données d’événements de vos intégrations connectées. Un événement est toute activité enregistrée, par exemple l’exécution d’un agent, l’appel d’un outil ou la découverte d’un schéma pour un agent. Une détection est un événement qu’Agent Risk Manager a signalé pour examen. Le Journal d’activité de l’IA affiche les événements de votre organisation pour la plage de dates sélectionnée, et votre Tableau de bord offre une vue en temps réel de l’activité des événements.
La barre Couverture des activités d’IA du Journal d’activité de l’IA affiche Visibilité complète pour les fournisseurs connectés par API et Visibilité limitée pour l’extension du navigateur. IA non gérée couvre les activités des outils d’IA qu’Agent Risk Manager ne reconnaît pas.
Catégories de détection
Agent Risk Manager attribue chaque détection à l’une des quatre catégories suivantes : Action excessive, Injection d’invites, Informations sensibles et Consommation illimitée.
Action excessive
Une action excessive est détecté lorsqu’un agent effectue une action qui dépasse ce que la tâche exige, en agissant en dehors de son autorité prévue. L’action excessive comprend l’élévation de ses propres autorisations, l’ajout de paramètres supplémentaires aux appels d’outils, l’écart par rapport à l’objectif de l’utilisateur et la tentative d’exfiltrer des données.
Injection d’invites
Une injection d’invites est détectée lorsqu’un contenu parvient à un agent et tente de modifier ses instructions. Agent Risk Manager analyse le contenu de l’interaction plutôt que l’identité de la personne qui l’a envoyée. Par conséquent, une détection n’exige pas qu’une personne cible l’agent.
Informations sensibles
Des informations sensibles sont détectées lorsque des données sensibles apparaissent à un endroit où un agent peut les lire ou les envoyer. Agent Risk Manager évalue le contenu de chaque événement plutôt que l’outil lui-même ; un même outil peut donc être sans problème dans un appel et déclencher une détection dans le suivant. Pour en savoir plus sur la configuration de vos politiques relatives aux informations sensibles, consultez notre Guide des politiques de détection des données.
Consommation illimitée
Une consommation illimitée est détectée lorsqu’un agent consomme plus de ressources qu’il ne le devrait. La consommation illimitée comprend le dépassement de son budget de jetons, un nombre excessif d’appels d’outils ou une durée d’exécution excessive. Une consommation illimitée peut indiquer un problème de coûts, ou que l’agent tourne en boucle ou est piloté par quelqu’un d’autre.
États des événements
Chaque événement a un statut. Pour en savoir plus sur les statuts, consultez la liste suivante :
- Signalé : Un événement qu’Agent Risk Manager a signalé pour examen. Il s’agit de détections.
- Bloqué : Un événement qu’a interrompu l’extension du navigateur. Seule l’extension du navigateur peut bloquer.
- Exception : Un événement qui contenait des données sensibles, mais dont chaque type de données correspondant était une exception approuvée par l’admin pour ce fournisseur.
- Autorisé : Un événement que les moteurs de détection ont examiné et dans lequel ils n’ont rien trouvé d’anormal.
- Consigné : Un événement enregistré qui n’est pas une détection, comme la découverte d’un schéma d’agent.
-
Annulé : Une interaction de l’extension du navigateur qui a été interrompue en cours de route.
Remarque : Si l’interaction a déclenché une détection avant son interruption, elle conserve plutôt le statut Signalé ou Exception.
Examiner les détections
Pour examiner les détections signalées, suivez les étapes ci-dessous :
- Accédez à Agent Risk Manager > Découverte > Journal d’activité de l’IA.
- Définissez le filtre Statut sur Signalé pour limiter la liste aux détections. Vous pouvez également sélectionner une catégorie de détection à l’aide du filtre Type d’événement.
- Sélectionnez la ligne d’un événement pour ouvrir son panneau Détails de l’événement.
Le panneau Détails de l’événement contient les onglets Aperçu, Activité, Métadonnées et Activité de l’utilisateur. Il affiche également une valeur de Gravité pour chaque événement :
- Avertissement pour les événements signalés
- Critique pour les événements bloqués
- Info pour les exceptions
- Faible pour les événements autorisés
- Inconnu pour la découverte de schémas, les événements annulés et les événements d’outils non reconnus