达里奥·阿莫代在世界经济论坛上表示，他即将发布《爱的机器》的续集。该书将于今天发布，Axios 已经获得了 Anthropic 的提前预览。书名为《技术的青春期：面对和克服强大人工智能的风险》。

一些引用： ‘我相信我们正在经历一个过渡仪式，这既动荡又不可避免，这将考验我们作为一个物种的本质。人类即将被赋予几乎难以想象的力量，而我们的社会、政治和技术系统是否具备驾驭这种力量的成熟度，仍然非常不明确。’

‘我们现在已经到了一个阶段，AI模型开始在解决未解的数学问题上取得进展，并且在编码方面的能力足够强大，以至于我见过的一些最优秀的工程师现在几乎将所有编码工作都交给了AI。三年前，AI在解决小学算术问题时还很挣扎，几乎无法写出一行代码。生物科学、金融、物理学以及各种代理任务的改进速度也在类似地发生。如果这种指数增长持续下去——虽然这并不确定，但现在已有十年的记录支持这一点——那么在不久的将来，AI在几乎所有领域都将超越人类。 事实上，这种情况可能低估了进展的可能速度。因为AI现在在Anthropic编写了大量代码，它已经显著加快了我们构建下一代AI系统的进程。这种反馈循环正在逐月加速，可能在1到2年内就会达到一个点，当前这一代AI能够自主构建下一代。这一循环已经开始，并将在未来几个月和几年内迅速加速。观察Anthropic过去5年的进展，以及看看接下来几个月的模型如何发展，我能感受到进展的速度，以及时间的流逝。

作为一家AI公司的首席执行官，我说这话有点尴尬，但我认为下一个风险层级实际上是AI公司本身。AI公司控制着大型数据中心，训练前沿模型，拥有使用这些模型的最大专业知识，并且在某些情况下与数千万或数亿用户有每日接触和影响的可能性。他们主要缺乏的是国家的合法性和基础设施，因此，建立AI专制所需的许多工具对AI公司来说是非法的，或者至少是极其可疑的。但其中一些并非不可能：例如，他们可以利用自己的AI产品来洗脑其庞大的消费者用户群，公众应该警惕这带来的风险。我认为AI公司的治理值得高度关注。

“正如‘数据中心的天才国度’这一短语所暗示的，AI将能够具备非常广泛的人类认知能力——也许是所有能力。这与以往的技术，如机械化农业、运输甚至计算机，截然不同。这将使人们更难以轻松地从被取代的工作转向适合他们的类似工作。例如，金融、咨询和法律等入门级工作所需的一般智力能力相对相似，即使具体知识差异很大。仅仅打乱这三者中的一项技术将允许员工转向另外两项相近的替代工作（或让本科生转专业）。但同时打乱所有三项（以及许多其他类似工作）可能会让人们更难适应。此外，不仅仅是大多数现有工作将受到干扰。这一部分以前也发生过——回想一下，农业曾占据了很大比例的就业。但农民可以转向相对相似的工厂机器操作工作，尽管那种工作在之前并不常见。相比之下，AI正越来越多地匹配人类的一般认知特征，这意味着它也将擅长于通常会因旧工作被自动化而创造的新工作。换句话说，AI并不是特定人类工作的替代品，而是人类的一种通用劳动替代品。

例如，在编码方面，我们的模型已经从“一个平庸的编码者”发展到“一个强大的编码者”，再到“一个非常强大的编码者”。我们现在开始在白领工作中看到同样的进展。因此，我们面临一种风险，即AI影响的不是具有特定技能或特定职业的人（他们可以通过再培训来适应），而是影响那些具有某些内在认知特征的人，即智力较低（这更难改变）。这些人将去哪里或做什么尚不清楚，我担心他们可能会形成一个失业或低工资的“底层阶级”。

Anthropic计划在员工"不再以传统意义上提供经济价值"后继续留用他们。 "第三，公司应该考虑如何照顾他们的员工。在短期内，创造性地考虑在公司内部重新分配员工的方式可能是避免裁员需求的一个有前景的方法。从长远来看，在一个总财富巨大的世界中，许多公司因生产力和资本集中而大幅增值，支付人类员工的工资，即使在他们不再以传统意义上提供经济价值的情况下，可能是可行的。Anthropic目前正在考虑一系列可能的路径，以便在不久的将来与我们的员工分享。"

‘Anthropic 的所有联合创始人都承诺捐赠我们财富的 80%。’

一些沉重的真相，我完全同意这一点，并且多次说过类似的话。 “此外，过去几年应该清楚表明，停止或甚至大幅减缓技术发展的想法在根本上是不可行的。构建强大AI系统的公式极其简单，以至于几乎可以说它是从正确的数据和原始计算的组合中自发产生的。它的创造在某种程度上是不可避免的，早在人类发明晶体管的那一刻，或者甚至更早，当我们第一次学会控制火时。如果一家公司不去构建它，其他公司几乎会同样迅速地做到。如果所有民主国家的公司通过相互协议或监管法令停止或减缓开发，那么专制国家将会继续前进。考虑到这项技术的巨大经济和军事价值，以及缺乏任何有意义的执行机制，我看不出我们如何能说服他们停止。

很棒的内容，绝对值得通读一遍。 “我们面前的岁月将会异常艰难，要求我们付出比我们认为能给出的更多。但在我作为研究者、领导者和公民的时间里，我见过足够的勇气和高尚，足以相信我们能够胜利——在最黑暗的环境中，人类似乎总能在最后一刻聚集起所需的力量和智慧以取得胜利。我们没有时间可以浪费。”