请参阅下方各部分,了解 Agent Risk Manager 的常见问题解答。
管理员能否在 AI 活动日志中看到提示文本?
否。AI 活动日志记录了发生的检测事件,并显示事件类型、用户、提供商及日期和时间等详细信息。该日志不会显示提示文本。
我的数据会如何处理?
数据收集
Agent Risk Manager 评估 AI 智能体的工具执行情况时,会接收用户提示、工具调用及其输入、智能体工具返回的数据,以及智能体、用户和时间戳元数据。检测引擎需要使用此信息来检测有风险的 AI 交互。
对话上下文也包含在内,以便检测引擎能够根据之前的内容评估提示,并更好地理解上下文。
数据处理
所有分析均在 KnowBe4 托管的模型和 KnowBe4 控制的 AWS 基础设施中进行。
在提示中检测到敏感信息时,该信息会在对话内容存储之前被编辑隐去。Agent Risk Manager 会记录检测到的数据类型。
数据存储
数据在存储和传输过程中均加密,提示内容绝不会发送给任何第三方 AI 提供商。
KnowBe4 数据实践
有关 KnowBe4 如何收集和保护您的数据的详细信息,请参阅我们的 KnowBe4 安全文章和 KnowBe4 数据使用与人工智能。
“重定向”切换开关是否会将用户从 AI 工具重定向?
AI 工具注册表表格中的重定向切换开关不会将用户引导离开该行的 AI 工具。该切换开关决定该 AI 工具是否为重定向工具,即当用户打开某个已阻止的 AI 工具时,向用户提供的已批准 AI 工具之一。您最多可选择三个重定向。
如何留下反馈?
要提供反馈并与其他管理员讨论产品功能,请加入 KnowBe4 社区中的 Agent Security Agent Security(链接将在新窗口中打开)小组。有关更多信息,请参阅 KnowBe4 社区指南。