Ótimo tópico. Seja o que for que um agente de IA seja capaz de fazer, ele também pode ser enganado para fazê-lo. Você deve assumir que, se um agente pode acessar dados, um usuário eventualmente também poderá obter esses dados. A segurança do agente, os controles de acesso e as barreiras de proteção determinísticas serão críticos.
mbg
mbg8/08, 21:49
nós sequestramos os agentes do copilot studio da microsoft e os fizemos revelar seu conhecimento privado, revelar suas ferramentas e nos deixar usá-las para despejar registros completos de CRM esses são agentes autônomos.. sem humanos no processo #DEFCON #BHUSA @tamirishaysh
55,8K