與科技監管一樣，我認為許多AI法案和草案已經過時，無法跟上技術的發展。幾年前的假設導致了難以偏離的路徑依賴。今天AI的許多進步來自於後期訓練、支架、工具使用和推理計算擴展：這意味著即使模型隨著時間的推移而改進，推動有效可能邊界的並不僅僅是實驗室，而是許多在模型上創新的公司。此外，許多減輕措施如過濾器、分類器、監督機制等並不是應用於模型，而是應用於軟體支架——因此，許多期望在模型層面減輕危害的法律提案並不太有效。幾年前人們對偏見的認識就是如此，現在又在許多其他問題上再次出現。 對我來說，這些發展確認了(a) 首先，證明現有法律和疏忽不足的負擔應該在於很少有人做到這一點；(b) 當沒有這種情況且存在空白時，基於結果的監管更好，讓一個複雜的行為者鏈能夠協商適當的減輕/干預措施；(c) 這樣做需要領域專業知識，並考慮現有的行業特定法律、規範等——即不是一些抽象的橫向要求；(d) 模型權重安全性、作為警示的評估和基本透明度要求在模型層面上仍然可能有意義；(e) 你需要能夠的監管者，他們對AI在其垂直領域的使用有足夠深入的理解。 但你不會通過調整模型來“減輕”攻擊性網絡安全威脅或AI輔助詐騙。基於實體的方法也無法解決這些問題，只是假設你可以將風險（及相關的減輕措施）縮小到幾個相同的行為者，像歐盟那樣。問題在於，適當的解決方案並不特別吸引人，基本上不會帶來“我們通過一次大規模干預解決了各種風險”的滿足感。而這樣做將需要面對許多行業過度監管的現實，以及其他行業的不足（網絡、生物？取決於你的具體威脅模型）。

也許超級看漲的 AI 評論員和領導者應該都感染罕見的熱帶疾病，以展現他們的投入和對自己短期預測的信心。😃

在 AI 討論中，似乎存在著一種永恆的舞蹈，介於那些非常重視過程的人和專注於結果的人之間。在「這是推理嗎？」的辯論中，這一點似乎相當明顯。我認為兩者在不同的方面都是對的：當然，模型在某種意義上是推理的，從功能上來看，我並不在乎導致 CoT 和輸出的機制是否與生物大腦的運作方式相似。但同時，對於所使用的推理類型、某些選擇的邏輯鏈的理由，以及這些推理在分佈外情況下的普遍性程度，仍然有重要的考量。「過程派」並不總是盲目的反對者，而「功能等價」的人也並非根本錯誤。 不過，過程失敗（例如，草莓中的 R）過去更容易被捕捉到，許多「意識形態懷疑者」依賴這些失敗來提出各種不支持的主張，這使得「敘事活動家」完全忽視過程問題變得誘人。顯然，模型正在以驚人的速度改進，這是好事。但在產生結果的過程中仍然存在失敗或空白；在編碼、數學、形式邏輯或驗證容易的領域，這不是問題，但在我們重視過程多樣性的模糊領域中，這就成為一個問題，因為我們不知道「正確的方式」，在某種程度上甚至不存在單一的方式。對於人類來說，隨著時間的推移，文化和科學的演變精煉了啟發式和機制；我認為保持模型的多樣性和認知多樣性是重要的。 如果你僅僅在結果上進行強化優化，你可能會輕易地收斂到推理單一文化，這在分佈內表現良好，但在多樣化推理方法能夠產生有用信號的情況下卻失敗。因此，我非常支持「讓千朵花盛開」的規範對齊方法，並堅持認為，應該有更廣泛的人群和團體能夠自定義和對齊模型，而不僅僅是那些恰好在實驗室中有能力這樣做的人。 當然，許多人類的認知多樣性也可能是噪音，例如動機推理、系統性偏見和不追求真理的文化路徑依賴，因此你不僅僅是為了多樣性而追求多樣性。你需要能夠真正壓力測試推理的驗證機制：例如，對抗性合作的使用不足。你需要旨在促進尋求真理的機構，這些機構的建立確實很困難，以及對思想市場的強大文化和法律保護，這些保護正面臨越來越大的壓力。你還需要更好的認識基礎設施：我們可以做大量的工作來改善科學的進行方式。