Agent Risk Managerのイベントと検出カテゴリ

Agent Risk Managerは、環境内のAIエージェントを監視し、リスクのあるアクティビティを検出としてフラグ付けします。この記事では、Agent Risk Managerが監視するイベント、割り当てられる4つの検出カテゴリ、検出されたイベントの確認方法について説明します。

監視対象のイベント

Agent Risk Managerは、接続済みのインテグレーションからイベントデータを受信します。イベントとは、エージェントの実行、ツールの呼び出し、エージェントのスキーマの検出など、記録されたあらゆるアクティビティを指します。検出とは、Agent Risk Managerがレビュー対象としてフラグを付けたイベントです。[AIアクティビティログ]には、選択した日付範囲における組織のイベントが表示され、[ダッシュボード]ではイベントアクティビティをリアルタイムで確認できます。

[AIアクティビティログ]の[AIアクティビティカバレッジ]バーには、APIで接続されたプロバイダーについては[完全な可視性]、ブラウザ拡張機能については[限定的な可視性]が表示されます。[未管理のAI]は、Agent Risk Managerが認識しないAIツールからのアクティビティを対象とします。

検出カテゴリ

Agent Risk Managerは、各検出を次の4つのカテゴリのいずれかに割り当てます：[過剰な権限]、[プロンプトインジェクション]、[機密情報]、[無制限のリソース消費]

過剰な権限

過剰な権限は、エージェントがタスクに必要な範囲を超えた操作を行い、本来の権限の外で動作した場合に検出されます。過剰な権限には、自身の権限の昇格、ツール呼び出しへの余分なパラメーターの追加、ユーザーの目的からの逸脱、データの持ち出しの試みが含まれます。

プロンプトインジェクション

プロンプトインジェクションは、コンテンツがエージェントに到達し、その指示を変更しようとした場合に検出されます。Agent Risk Managerは、送信者の身元ではなく、やり取りの内容を分析します。そのため、検出には、人がエージェントを標的にしている必要はありません。

機密情報

機密情報は、エージェントが読み取ったり送信したりできる場所に機密データが現れた場合に検出されます。Agent Risk Managerは、ツール自体ではなく各イベントの内容を評価するため、同じツールでも、ある呼び出しでは問題なく、次の呼び出しでは検出が発生することがあります。機密情報ポリシーの設定について詳しくは、データ検出ポリシーガイドを参照してください。

無制限のリソース消費

無制限のリソース消費は、エージェントが本来より多くのリソースを消費した場合に検出されます。無制限のリソース消費には、トークン予算の超過、過剰な数のツール呼び出し、過剰に長い実行時間が含まれます。無制限のリソース消費は、コストの問題や、エージェントがループしている、または他者に操作されていることを示している可能性があります。

イベントのステータス

すべてのイベントにはステータスがあります。ステータスの詳細については、次のリストを参照してください：

• [フラグ付き]：Agent Risk Managerがレビュー対象としてフラグを付けたイベントです。これらは検出です。
• [ブロック]：ブラウザ拡張機能が停止したイベントです。ブロックできるのは、ブラウザ拡張機能のみです。
• [例外]：機密データを含んでいたものの、一致したすべてのデータタイプが、そのプロバイダーに対して管理者が承認した例外だったイベントです。
• [許可済み]：検出エンジンがレビューし、問題が見つからなかったイベントです。
• [記録済み]：エージェントスキーマの検出など、検出ではない記録済みのイベントです。

• [キャンセル]：途中で停止されたブラウザ拡張機能のやり取りです。

  注：停止前にやり取りで検出が発生した場合は、代わりに[フラグ付き]または[例外]のステータスが維持されます。

検出を確認する

フラグ付きの検出を確認するには、次の手順に従います：

1. [Agent Risk Manager] > [検出] > [AIアクティビティログ]に移動する
2. [ステータス]フィルターを[フラグ付き]に設定して、一覧を検出に絞り込むまたは、[イベントタイプ]フィルターを使用して検出カテゴリを選択する
3. イベントの行を選択して、[イベント詳細]パネルを開く

[イベント詳細]パネルには、[概要]、[アクティビティ]、[メタデータ]、[ユーザーアクティビティ]のタブがあります。また、各イベントの[重大性]の値も表示されます：

• [警告]：フラグ付きのイベント
• [非常に高い]：ブロックされたイベント
• [情報]：例外
• [低い]：許可されたイベント
• [不明]：スキーマの検出、キャンセル、未認識のツールのイベント