Świetny wątek. Cokolwiek agent AI jest w stanie zrobić, można go również oszukać, aby to zrobił. Powinieneś założyć, że jeśli agent ma dostęp do danych, to użytkownik również w końcu uzyska te dane. Bezpieczeństwo agenta, kontrole dostępu i deterministyczne zabezpieczenia będą kluczowe.
mbg
mbg8 sie, 21:49
przejęliśmy agentów studia Copilot Microsoftu i zmusiliśmy ich do ujawnienia swojej prywatnej wiedzy, ujawnienia swoich narzędzi i pozwolenia nam na wykorzystanie ich do zrzucenia pełnych rekordów CRM to są autonomiczne agenty.. bez człowieka w pętli #DEFCON #BHUSA @tamirishaysh
47,01K