Skvělá nit. Cokoli je agent umělé inteligence schopen udělat, lze jej také oklamat. Měli byste předpokládat, že pokud má agent přístup k datům, že uživatel může nakonec tato data získat také. Zabezpečení agenta, řízení přístupu a deterministické mantinely budou kritické.
mbg
mbg8. 8. 21:49
Unesli jsme agenty studia Copilot společnosti Microsoft a přiměli je, aby vyzradili své soukromé znalosti, odhalili své nástroje a nechali nás je použít k úniku kompletních záznamů CRM. To jsou autonomní agenti. Žádný člověk ve smyčce #DEFCON #BHUSA @tamirishaysh
55,79K