Bra tråd. Allt som en AI-agent är kapabel att göra kan den också luras att göra. Du bör anta att om en agent kan komma åt data, att en användare så småningom också kan få dessa data. Agentsäkerhet, åtkomstkontroller och deterministiska skyddsräcken kommer att vara avgörande.
mbg
mbg8 aug. 21:49
Vi kapade Microsofts copilot studio-agenter och fick dem att avslöja sin privata kunskap, avslöja sina verktyg och låta oss använda dem för att dumpa fullständiga CRM-poster Dessa är autonoma agenter. Ingen människa i loopen #DEFCON #BHUSA @tamirishaysh
84,18K