Отличная тема. Что бы ни мог сделать агент ИИ, его также можно обмануть. Вы должны предполагать, что если агент может получить доступ к данным, то пользователь в конечном итоге тоже сможет получить эти данные. Безопасность агентов, контроль доступа и детерминированные защитные меры будут критически важны.
mbg
mbg8 авг., 21:49
мы захватили агенты студии Copilot от Microsoft и заставили их раскрыть свои секретные знания, показать свои инструменты и позволить нам использовать их для выгрузки полных записей CRM это автономные агенты.. без человека в процессе #DEFCON #BHUSA @tamirishaysh
61,64K