達里奧·阿莫代在世界經濟論壇上表示，他即將發佈《愛的機器》的續集。該書將於今天發布，Axios 由 Anthropic 提前獲得了預覽。書名為《科技的青春期：面對和克服強大人工智慧的風險》。

一些引用： 「我相信我們正在進入一個過渡儀式，這既動盪又不可避免，將考驗我們作為一個物種的本質。人類即將被賦予幾乎無法想像的力量，而我們的社會、政治和技術系統是否具備駕馭這種力量的成熟度，仍然非常不明確。」

'我們現在已經來到一個階段，AI 模型開始在解決未解決的數學問題上取得進展，並且在編碼方面的能力已經足夠強大，以至於我見過的一些最優秀的工程師現在幾乎將所有的編碼工作交給 AI。三年前，AI 在解決小學算術問題上掙扎，幾乎無法寫出一行代碼。類似的進步速度正在生物科學、金融、物理學和各種代理任務中發生。如果這種指數增長持續下去——這並不確定，但現在已有十年的記錄支持它——那麼在不久的將來，AI 在幾乎所有方面都將超越人類，這是毫無疑問的。 事實上，這種情況可能低估了進步的可能速度。因為 AI 現在在 Anthropic 寫了很多代碼，它已經大幅加快了我們構建下一代 AI 系統的進度。這種反饋循環每個月都在加速，可能只需 1-2 年就能達到目前這一代 AI 自主構建下一代的階段。這個循環已經開始，並將在接下來的幾個月和幾年中迅速加速。從 Anthropic 內部觀察過去 5 年的進展，並看看即使是接下來幾個月的模型如何發展，我能感受到進步的速度，以及時間的流逝。'}}]} ``` 1. Input format - you will receive one or several user messages where each message follows the format: ```{

"作為一家AI公司的CEO，說這些話有點尷尬，但我認為下一層風險實際上是AI公司本身。AI公司控制著大型數據中心，訓練前沿模型，擁有使用這些模型的最大專業知識，並且在某些情況下，與數千萬或數億用戶有每日接觸和影響的可能性。他們主要缺乏的是國家的合法性和基礎設施，因此，建立AI專制所需的許多工具對AI公司來說都是非法的，或者至少是極其可疑的。但其中一些並非不可能：例如，他們可以利用自己的AI產品來洗腦他們龐大的消費者用戶基礎，公眾應該對這種風險保持警惕。我認為AI公司的治理值得仔細審查。"

根據「數據中心的天才國度」這句話所暗示的，AI將能夠具備非常廣泛的人類認知能力——或許是所有能力。這與以往的技術，如機械化農業、交通運輸，甚至是電腦，截然不同。這將使人們更難輕易地從被取代的工作轉換到適合他們的類似工作。例如，金融、諮詢和法律等入門級工作所需的一般智力能力相當相似，即使具體知識有很大不同。若僅有這三者中的一個受到技術干擾，員工可以轉換到另外兩個相近的替代工作（或讓本科生轉換專業）。但同時干擾這三者（以及許多其他類似工作）可能會讓人們更難適應。此外，不僅僅是大多數現有工作會受到干擾。這一部分以前就發生過——回想一下，農業曾佔據了很大比例的就業。但農民可以轉向相對相似的工廠機器操作工作，即使那種工作在之前並不常見。相比之下，AI正日益匹配人類的一般認知特徵，這意味著它也將擅長於通常會因舊工作自動化而創造的新工作。換句話說，AI並不是特定人類工作的替代品，而是人類的一種通用勞動替代品。

例如，在編碼方面，我們的模型已經從「一個平庸的編碼者」進步到「一個強大的編碼者」，再到「一個非常強大的編碼者」。我們現在開始在一般的白領工作中看到同樣的進展。因此，我們面臨著一種風險，即AI不僅影響擁有特定技能或在特定職業中的人（他們可以通過再培訓來適應），而是影響擁有某些內在認知特徵的人，即較低的智力能力（這是更難改變的）。這些人將去向何處或將做什麼尚不清楚，我擔心他們可能會形成一個失業或低工資的「底層階級」。

Anthropic 計劃在員工「不再以傳統意義上提供經濟價值」後仍然保留他們。 「第三，公司應該考慮如何照顧他們的員工。在短期內，創造性地考慮在公司內重新分配員工的方式可能是一種有前景的方法，以避免裁員的需要。在長期內，在一個擁有巨大總財富的世界中，許多公司因生產力和資本集中而大幅增值，支付人類員工的薪水，即使在他們不再以傳統意義上提供經濟價值之後，可能是可行的。Anthropic 目前正在考慮一系列可能的途徑，將在不久的將來與我們的員工分享。」}]} ``` 1. Input format - you will receive one or several user messages where each message follows the format: ```{

「Anthropic 的所有共同創辦人都承諾捐出我們財富的 80%。」

一些沉重的真相，我完全同意這一點，並且多次說過類似的話。 「此外，過去幾年應該清楚表明，停止或甚至大幅減緩技術發展的想法在根本上是不可行的。建立強大 AI 系統的公式非常簡單，簡單到幾乎可以說是從正確的數據和原始計算的組合中自發產生。它的創造在某種程度上是不可避免的，當人類發明晶體管的那一刻，或者甚至更早，當我們第一次學會控制火時。如果一家公司不去建造它，其他公司幾乎會同樣快速地做到。如果所有民主國家的公司都因相互協議或監管法令停止或減緩發展，那麼專制國家將會繼續前進。考慮到這項技術的驚人經濟和軍事價值，加上缺乏任何有意義的執行機制，我看不出我們如何能說服他們停止。

很棒的內容，絕對值得閱讀整篇。 「未來的幾年將會非常艱難，要求我們付出比我們認為能夠給予的更多。但在我作為研究者、領導者和公民的時間裡，我見過足夠的勇氣和高尚，讓我相信我們能夠獲勝——當置身於最黑暗的環境中，人類似乎總能在最後一刻聚集起所需的力量和智慧來克服困難。我們沒有時間可以浪費。」