Consulte as seções abaixo para perguntas frequentes sobre o Agent Risk Manager.
Os administradores podem ver o texto do prompt no Registro de atividades de IA?
Não. O Registro de atividades de IA documenta a ocorrência de uma detecção e apresenta informações, como o tipo de evento, o usuário, o provedor, a data e a hora. Ele não exibe o texto do prompt.
Como meus dados são tratados?
Coleta de dados
Quando o Agent Risk Manager avalia a execução de ferramentas de um agente de IA, ele recebe o prompt do usuário, as chamadas de ferramentas e as suas respectivas entradas, os dados retornados pelas ferramentas do agente, bem como os metadados do agente, do usuário e de data e hora. Essas informações são necessárias para que os mecanismos de detecção identifiquem interações de IA arriscadas.
O contexto da conversa também é incluído para que os mecanismos de detecção possam avaliar o prompt em relação ao que veio antes e compreender melhor o contexto.
Processamento de dados
Todas as análises são executadas em modelos hospedados pela KnowBe4 em infraestrutura AWS controlada pela KnowBe4.
Quando informações sigilosas são detectadas em um prompt, elas são mascaradas antes que o conteúdo da conversa seja armazenado. O Agent Risk Manager registra os tipos de dados detectados.
Armazenamento de dados
Os dados são criptografados em repouso e em trânsito, e o conteúdo dos prompts nunca é enviado a nenhum provedor de IA terceirizado.
Práticas de dados da KnowBe4
Para mais informações detalhadas sobre como a KnowBe4 coleta e protege seus dados, consulte nossos Artigos de segurança da KnowBe4 e Artigos sobre o uso de dados da KnowBe4 e inteligência artificial.
O botão de alternância Redirecionamento redireciona os usuários para fora de uma ferramenta de IA?
O botão de alternância Redirecionamento na tabela Registro de ferramenta de IA não redireciona os usuários para fora da ferramenta de IA nessa linha. Ele determina se a ferramenta de IA é um redirecionamento, uma das suas ferramentas de IA aprovadas oferecidas aos usuários quando eles abrem uma ferramenta de IA bloqueada. Você pode escolher até três redirecionamentos.
Como posso deixar feedback?
Para deixar o seu feedback e discutir sobre os recursos do produto com outros administradores, participe do grupo Segurança de agentes Segurança de agentes (o link abre em uma nova janela) na Comunidade da KnowBe4. Para obter mais informações, consulte o Guia da Comunidade da KnowBe4.