素晴らしいスレッド。AI エージェントができることは何でも、だまされて実行させる可能性もあります。エージェントがデータにアクセスできる場合、ユーザーは最終的にそのデータも取得できると想定する必要があります。エージェントのセキュリティ、アクセス制御、および決定論的なガードレールが重要になります。
mbg
mbg8月8日 21:49
私たちは Microsoft の Copilot Studio エージェントを乗っ取り、私的な知識を漏らし、ツールを公開し、それらを使用して完全な CRM レコードをダンプさせました これらは自律的なエージェントです。ループに人間がいない #DEFCON #BHUSA @tamirishaysh
55.79K