Super fil de discussion. Quoi qu'un agent IA soit capable de faire, il peut aussi être trompé pour le faire. Vous devez supposer que si un agent peut accéder à des données, qu'un utilisateur peut finalement obtenir ces données aussi. La sécurité des agents, les contrôles d'accès et les garde-fous déterministes seront critiques.
mbg
mbg8 août, 21:49
nous avons détourné les agents de Microsoft Copilot Studio et les avons amenés à révéler leurs connaissances privées, à dévoiler leurs outils et à nous laisser les utiliser pour extraire des enregistrements CRM complets ce sont des agents autonomes.. aucun humain dans la boucle #DEFCON #BHUSA @tamirishaysh
47,01K