很棒的讨论。无论一个AI代理能够做什么,它也可以被欺骗去做。你应该假设,如果一个代理可以访问数据,那么用户最终也能获取到这些数据。代理安全、访问控制和确定性保护措施将是至关重要的。
mbg
mbg8月8日 21:49
我们劫持了微软的 Copilot Studio 代理,让它们泄露出私密知识,揭示它们的工具,并让我们使用它们来导出完整的 CRM 记录。 这些是自主代理……没有人类参与。 #DEFCON #BHUSA @tamirishaysh
55.79K