我們劫持了微軟的 Copilot Studio 代理，讓它們洩露出私密知識，揭示它們的工具，並讓我們使用它們來導出完整的 CRM 記錄。 這些是自主代理.. 沒有人參與其中。 #DEFCON #BHUSA @tamirishaysh

外面的情況真糟糕

AI的最佳情境？ 悲觀者的敘事是錯誤的。基於對AGI的“快速起飛”的預測，他們預測領先的AI模型將利用其智慧自我改進，將其他模型拋在腦後，迅速達到類似神的超智能。相反，我們看到的是相反的情況： — 領先的模型在相似的性能基準上聚集； — 模型公司持續用其最新版本互相超越（如果一個模型實現了快速起飛，這是不應該發生的）； — 模型正在發展競爭優勢的領域，變得越來越專注於個性、模式、編碼和數學，而不是一個模型變得全知全能。 這並不是要否認進步。我們看到頂尖模型公司在質量、可用性和性價比上有強勁的改善。這是偉大工程的成果，應該受到讚揚。這只是與末日預言無關。奧本海默已經離開了大樓。 AI競賽是高度動態的，因此這種情況可能會改變。但目前的情況是金髮姑娘的故事： — 我們有5家主要的美國公司在前沿模型上激烈競爭。這使每個人都能發揮最佳表現，幫助美國贏得AI競賽。正如@BalajiS所寫：“我們有來自許多派系的許多模型，它們都在相似的能力上趨同，而不是最佳模型與其他模型之間存在巨大的差距。因此，我們應該期待各種人類/AI融合之間的權力平衡，而不是一個主導的AGI將我們所有人變成回形針/鹽柱。” — 到目前為止，我們避免了將所有權力和控制權集中在單一實體中的壟斷結果。在我看來，AI最可能的反烏托邦結果是企業與國家權力的結合，類似於我們在Twitter檔案中看到的情況，其中“信任與安全”被武器化為政府的審查和控制。至少當你有多個強大的私營部門參與者時，這變得更加困難。相比之下，贏者通吃的動態更可能產生奧威爾式的結果。 — 開源可能會扮演重要角色。這些模型在以10-20%的成本提供80-90%的能力方面表現出色。這種權衡對於重視定制、控制和成本而非前沿能力的客戶來說非常有吸引力。中國已經全力投入開源，因此看到更多美國公司在這一領域競爭是件好事，正如OpenAI剛剛所做的。（Meta也值得讚揚。） — 在通用基礎模型和特定垂直應用之間可能會有分工。與其讓一個超智能捕捉所有價值，我們更可能看到許多自主應用解決“最後一公里”問題。這對初創生態系統來說是個好消息。 — 人類與AI之間的分工也越來越明確。儘管所有的驚人進展，AI模型在設定自己的目標函數方面仍然是零。模型需要上下文，必須被大量提示，輸出必須被驗證，這一過程必須反覆進行以實現有意義的商業價值。這就是為什麼Balaji說AI不是端到端的，而是中間到中間的原因。這意味著對於工作損失的末日預測與AGI本身一樣被過度炒作。相反，“你不會因為AI而失去工作，而是因為某個比你更擅長使用AI的人”這一真理依然成立。 總之，最新發布的AI模型顯示，模型能力比許多人預測的更為去中心化。雖然沒有保證這種情況會持續——市場在投資超週期結束後總是有可能集中到少數幾個參與者手中——但目前的激烈競爭狀態是健康的。它推動創新向前發展，幫助美國贏得AI競賽，並避免集中控制。這是個好消息——悲觀者並未預料到的。

全球20大最強AI超級電腦 💻️