Agent Risk Manager monitora gli agenti IA nel tuo ambiente e segnala le attività rischiose come rilevamenti. Questo articolo spiega gli eventi monitorati da Agent Risk Manager, le quattro categorie di rilevamento che assegna e come esaminare gli eventi rilevati.
Eventi monitorati
Agent Risk Manager riceve i dati degli eventi dalle tue integrazioni connesse. Un evento è qualsiasi attività registrata, ad esempio l’esecuzione di un agente, la chiamata di uno strumento o l’individuazione di uno schema per un agente. Un rilevamento è un evento che Agent Risk Manager ha segnalato per la revisione. Il Registro attività IA mostra gli eventi della tua organizzazione per l’intervallo di date selezionato e la tua Dashboard offre una visualizzazione in tempo reale dell’attività degli eventi.
La barra Copertura attività IA nel Registro attività IA mostra Visibilità completa per i fornitori connessi tramite API e Visibilità limitata per l’estensione del browser. IA non gestita comprende le attività degli strumenti IA che Agent Risk Manager non riconosce.
Categorie di rilevamento
Agent Risk Manager assegna ogni rilevamento a una di quattro categorie: Eccessiva autonomia, Prompt injection, Informazioni sensibili e Consumo senza limiti.
Eccessiva autonomia
L’eccessiva autonomia viene rilevata quando un agente esegue un’azione che va oltre ciò che richiede l’attività, agendo al di fuori dell’autorità prevista. L’eccessiva autonomia include l’escalation dei propri permessi, l’aggiunta di parametri extra alle chiamate degli strumenti, la deviazione dall’obiettivo dell’utente e il tentativo di esfiltrare dati.
Prompt injection
La prompt injection viene rilevata quando un contenuto raggiunge un agente e tenta di modificarne le istruzioni. Agent Risk Manager analizza il contenuto dell’interazione anziché l’identità di chi lo ha inviato. Di conseguenza, un rilevamento non richiede che una persona prenda di mira l’agente.
Informazioni sensibili
Le informazioni sensibili vengono rilevate quando dati sensibili compaiono in un punto in cui un agente può leggerli o inviarli. Agent Risk Manager valuta il contenuto di ogni evento anziché lo strumento in sé, quindi lo stesso strumento può andare bene in una chiamata e generare un rilevamento in quella successiva. Per ulteriori informazioni sulla configurazione delle policy per le informazioni sensibili, consulta la nostra Guida alle policy di rilevamento dei dati.
Consumo senza limiti
Il consumo senza limiti viene rilevato quando un agente consuma più risorse del dovuto. Il consumo senza limiti include il superamento del budget di token, un numero eccessivo di chiamate agli strumenti o un tempo di esecuzione eccessivo. Il consumo senza limiti può indicare un problema di costi oppure che l’agente è in un ciclo o è pilotato da qualcun altro.
Stati degli eventi
Ogni evento ha uno stato. Per ulteriori informazioni sugli stati, consulta il seguente elenco:
- Contrassegnato: Un evento che Agent Risk Manager ha segnalato per la revisione. Si tratta di rilevamenti.
- Bloccato: Un evento interrotto dall’estensione del browser. Solo l’estensione del browser può bloccare.
- Eccezione: Un evento che conteneva dati sensibili, ma in cui ogni tipo di dati corrispondente era un’eccezione approvata dall’admin per quel fornitore.
- Consentito: Un evento che i motori di rilevamento hanno esaminato senza trovare nulla di anomalo.
- Registrato: Un evento registrato che non è un rilevamento, ad esempio l’individuazione di uno schema di agente.
-
Annullato: Un’interazione dell’estensione del browser che è stata interrotta a metà.
Nota: se l’interazione ha generato un rilevamento prima di essere interrotta, mantiene invece lo stato Contrassegnato o Eccezione.
Esaminare i rilevamenti
Per esaminare i rilevamenti segnalati, segui questi passaggi:
- Vai a Agent Risk Manager > Scoperta > Registro attività IA.
- Imposta il filtro Stato su Contrassegnato per restringere l’elenco ai rilevamenti. In alternativa, seleziona una categoria di rilevamento usando il filtro Tipo di evento.
- Seleziona la riga di un evento per aprire il relativo pannello Dettagli evento.
Il pannello Dettagli evento contiene le schede Panoramica, Attività, Metadati e Attività utente. Mostra inoltre un valore di Severità per ogni evento:
- Attenzione per gli eventi contrassegnati
- Critico per gli eventi bloccati
- Info per le eccezioni
- Basso per gli eventi consentiti
- Sconosciuto per l’individuazione di schemi, gli eventi annullati e gli eventi di strumenti non riconosciuti