Agent Risk Manager monitort de AI-agents in je omgeving en markeert risicovolle activiteit als detecties. In dit artikel worden de evenementen die Agent Risk Manager monitort, de vier detectiecategorieën die het toewijst en het controleren van gedetecteerde evenementen uitgelegd.
Gemonitorde evenementen
Agent Risk Manager ontvangt evenementgegevens van je gekoppelde integraties. Een evenement is elke vastgelegde activiteit, zoals het uitvoeren van een agent, het aanroepen van een tool of het ontdekken van een schema voor een agent. Een detectie is een evenement dat Agent Risk Manager heeft gemarkeerd voor controle. Het AI-activiteitenlogboek toont de evenementen van je organisatie voor je geselecteerde datumbereik en je Dashboard biedt een live overzicht van de evenementactiviteit.
De balk Dekking van AI-activiteit in het AI-activiteitenlogboek toont Volledige zichtbaarheid voor de via API gekoppelde aanbieders en Beperkte zichtbaarheid voor de browserextensie. Onbeheerde AI omvat activiteit van AI-tools die Agent Risk Manager niet herkent.
Detectiecategorieën
Agent Risk Manager wijst elke detectie toe aan een van de vier categorieën: Buitensporig handelingsvermogen, Promptinjectie, Gevoelige informatie en Onbegrensde consumptie.
Buitensporig handelingsvermogen
Buitensporig handelingsvermogen wordt gedetecteerd wanneer een agent een actie uitvoert die verder gaat dan wat de taak vereist en buiten zijn beoogde bevoegdheid handelt. Buitensporig handelingsvermogen omvat het uitbreiden van de eigen machtigingen, het toevoegen van extra parameters aan toolaanroepen, afwijken van het doel van de gebruiker en pogingen om gegevens te exfiltreren.
Promptinjectie
Promptinjectie wordt gedetecteerd wanneer content een agent bereikt en probeert de instructies ervan te wijzigen. Agent Risk Manager analyseert de inhoud van de interactie en niet de identiteit van de afzender. Daardoor is voor een detectie niet vereist dat een persoon de agent als doelwit heeft.
Gevoelige informatie
Gevoelige informatie wordt gedetecteerd wanneer gevoelige gegevens verschijnen op een plek waar een agent ze kan lezen of verzenden. Agent Risk Manager beoordeelt de inhoud van elk evenement en niet de tool zelf, zodat dezelfde tool in de ene aanroep prima kan zijn en in de volgende een detectie kan veroorzaken. Zie onze gids over gegevensdetectiebeleid voor meer informatie over het configureren van je beleid voor gevoelige informatie.
Onbegrensde consumptie
Onbegrensde consumptie wordt gedetecteerd wanneer een agent meer resources verbruikt dan zou moeten. Onbegrensde consumptie omvat het overschrijden van het tokenbudget, een buitensporig aantal toolaanroepen of een buitensporig lange uitvoeringstijd. Onbegrensde consumptie kan wijzen op een kostenprobleem, of erop dat de agent in een lus zit of door iemand anders wordt aangestuurd.
Evenementstatussen
Elk evenement heeft een status. Zie de volgende lijst voor meer informatie over statussen:
- Gemarkeerd: Een evenement dat Agent Risk Manager heeft gemarkeerd voor controle. Dit zijn detecties.
- Geblokkeerd: Een evenement dat de browserextensie heeft gestopt. Alleen de browserextensie kan blokkeren.
- Uitzondering: Een evenement dat gevoelige gegevens bevatte, maar waarbij elk overeenkomend gegevenstype een door de beheerder goedgekeurde uitzondering voor die aanbieder was.
- Toegestaan: Een evenement dat de detectie-engines hebben gecontroleerd en waarbij ze niets verkeerds hebben gevonden.
- Vastgelegd: Een vastgelegd evenement dat geen detectie is, zoals het ontdekken van een agentschema.
-
Geannuleerd: Een interactie van de browserextensie die halverwege is gestopt.
Opmerking: Als de interactie een detectie veroorzaakte voordat deze werd gestopt, behoudt ze in plaats daarvan de status Gemarkeerd of Uitzondering.
Detecties controleren
Volg deze stappen om gemarkeerde detecties te controleren:
- Ga naar Agent Risk Manager > Ontdekking > AI-activiteitenlogboek.
- Stel het filter Status in op Gemarkeerd om de lijst te beperken tot detecties. Je kunt ook een detectiecategorie selecteren met het filter Evenementtype.
- Selecteer de rij van een evenement om het bijbehorende paneel Evenementdetails te openen.
Het paneel Evenementdetails bevat de tabbladen Overzicht, Activiteit, Metadata en Gebruikersactiviteit. Het toont ook voor elk evenement een waarde voor Prioriteit:
- Waarschuwing voor gemarkeerde evenementen
- Kritisch voor geblokkeerde evenementen
- Info voor uitzonderingen
- Laag voor toegestane evenementen
- Onbekend voor schemaontdekking, geannuleerde evenementen en evenementen met niet-herkende tools