私は現在ブエノスアイレスにいるDeFiセキュリティサミットに参加しており、@blocksec(EigenLabs)、@ChanniGreenwall(Olympix)、@jack__sanford(Sherlock)、@nicowaisman(Xbow)と共にAIとWeb3セキュリティに関するパネルに参加しました。つい最近まで「遠い未来」のように感じられたものが、今では今後数年間の非常に具体的なロードマップとして議論されています。防御的・攻撃的なAI搭載技術は、特に脆弱性発見において急速に進歩するでしょう。今日監査人が手作業で行うすべての作業は、徐々により強力でアクセスしやすい自動化スタックにまとめられています。 現実を冷静に見つめることが重要です。モデルを望ましくない使用から確実に「隔離」できるという希望は幻想に過ぎません。十分に高性能なモデルは、定義上、二重用途です。提供者は制限やフィルター、ポリシーを追加するでしょうが、それが根本的な障壁ではありません。動機とリソースがあれば、誰でもセルフホストモデルを立ち上げ、自分だけのエージェントスタックを構築し、利用規約を気にせずに同じ技術を使うでしょう。攻撃者がこれらのツールにアクセスできないという前提でセキュリティを設計することはできません。 攻撃の経済的側面も決して単純ではありません。短期的には攻撃は安上がりになるでしょう。自動化が増し、「広域爆撃」が増え、人間が関与しない状態での状態や構成を徹底的に探査するのです。しかし長期的には、防御手法やツールが追いつくにつれて、成功する攻撃はコストが高まるでしょう。カバレッジは改善され、些細なバグは消え、効果的な侵害には真剣なインフラ、準備、専門知識が必要になるでしょう。これにより事故数は減少しますが、発生した事故ははるかに複雑でコストもかかるでしょう。 私の主な結論は、単に「見た目だけの改善」ではなく、セキュリティライフサイクル全体を見直す必要があるということです。リスクプロファイルの記述と理解、AIの関与を伴った脅威モデルの進化、開発、レビュー、テスト、展開、オンチェーン監視、インシデント対応、事後分析の構造化など、これらすべてを見直す必要があります。従来の監査は引き続き重要な要素であり続けるが、もはや唯一の重心にはなれない。現実には、AIは防御側と攻撃側の両方を対称的に増幅し、Web3のセキュリティはこの非対称的な軍拡競争に対応するために運用モデル全体を適応させなければなりません。