Ottimo thread. Qualunque cosa un agente AI sia in grado di fare, può anche essere ingannato per farlo. Dovresti assumere che se un agente può accedere ai dati, un utente alla fine potrà ottenere quei dati. La sicurezza degli agenti, i controlli di accesso e le barriere di protezione deterministiche saranno fondamentali.
mbg
mbg8 ago, 21:49
abbiamo dirottato gli agenti dello studio Copilot di Microsoft e li abbiamo costretti a rivelare le loro conoscenze private, a svelare i loro strumenti e a permetterci di utilizzare per scaricare interi record CRM questi sono agenti autonomi.. nessun umano nel loop #DEFCON #BHUSA @tamirishaysh
61,64K