Ótimo tópico. O que quer que um agente de IA seja capaz de fazer, ele também pode ser enganado a fazer. Você deve presumir que, se um agente pode acessar dados, um usuário também pode obter esses dados. A segurança do agente, os controles de acesso e as proteções determinísticas serão essenciais.
mbg
mbg8 de ago., 21:49
Sequestramos os agentes do Copilot Studio da Microsoft e fizemos com que eles revelassem seu conhecimento privado, revelassem suas ferramentas e nos deixassem usá-los para despejar registros completos de CRM estes são agentes autônomos.. nenhum humano no circuito #DEFCON #BHUSA @tamirishaysh
55,8K