Gran hilo. Cualquiera que sea la capacidad de un agente de IA, también puede ser engañado para actuar. Debes asumir que si un agente puede acceder a datos, un usuario eventualmente también podrá obtener esos datos. La seguridad del agente, los controles de acceso y las barreras de protección deterministas serán críticos.
mbg
mbg8 ago, 21:49
secuestramos los agentes de copilot studio de microsoft y los hicimos revelar su conocimiento privado, mostrar sus herramientas y dejarnos usarlas para volcar registros completos de CRM estos son agentes autónomos.. sin intervención humana #DEFCON #BHUSA @tamirishaysh
55,8K