Flott tråd. Uansett hva en AI-agent er i stand til å gjøre, kan den også lures til å gjøre. Du bør anta at hvis en agent har tilgang til data, at en bruker til slutt også kan få disse dataene. Agentsikkerhet, tilgangskontroller og deterministiske rekkverk vil være avgjørende.
mbg
mbg8. aug., 21:49
Vi kapret Microsofts Copilot Studio-agenter og fikk dem til å søle ut sin private kunnskap, avsløre verktøyene sine og la oss bruke dem til å dumpe fulle CRM-plater Dette er autonome agenter. Ingen mennesker i løkken #DEFCON #BHUSA @tamirishaysh
40,37K