很棒的討論。無論AI代理能做什麼,它也可以被欺騙去做。你應該假設如果代理可以訪問數據,那麼用戶最終也能獲得這些數據。代理安全性、訪問控制和確定性防護措施將是至關重要的。
mbg
mbg8月8日 21:49
我們劫持了微軟的 Copilot Studio 代理,讓它們洩露出私密知識,揭示它們的工具,並讓我們使用它們來導出完整的 CRM 記錄。 這些是自主代理.. 沒有人參與其中。 #DEFCON #BHUSA @tamirishaysh
55.79K