我们劫持了微软的 Copilot Studio 代理，让它们泄露出私密知识，揭示它们的工具，并让我们使用它们来导出完整的 CRM 记录。 这些是自主代理……没有人类参与。 #DEFCON #BHUSA @tamirishaysh

外面的情况真糟糕

AI的最佳情况？ 悲观主义者的叙述是错误的。基于对AGI的“快速起飞”的预测，他们认为领先的AI模型会利用其智能自我提升，抛在其他模型后面，迅速实现类似神的超级智能。相反，我们看到的是相反的情况： — 领先的模型在类似的性能基准上聚集； — 模型公司继续通过其最新版本相互超越（如果一个模型实现了快速起飞，这本不应该可能）； — 模型正在发展竞争优势，变得越来越专注于个性、模式、编码和数学，而不是一个模型变得无所不知。 这一切并不是否认进步。我们看到顶级模型公司在质量、可用性和性价比方面有了显著改善。这是伟大工程的成果，值得庆祝。这并不是末日预言的内容。奥本海默已经离开了大楼。 AI竞赛是高度动态的，因此这种情况可能会改变。但现在的现状是“金发姑娘的故事”： — 我们有5家主要的美国公司在前沿模型上激烈竞争。这使每个人都能发挥出最佳水平，并帮助美国赢得AI竞赛。正如@BalajiS所写：“我们有来自多个派系的许多模型，它们都在类似的能力上趋同，而不是最佳模型与其他模型之间存在巨大的差距。因此，我们应该期待各种人类/AI融合之间的权力平衡，而不是一个单一的主导AGI将我们所有人变成纸夹/盐柱。” — 到目前为止，我们避免了将所有权力和控制权集中在单一实体中的垄断结果。在我看来，AI最可能的反乌托邦结果是企业与国家权力的结合，类似于我们在Twitter文件中看到的情况，其中“信任与安全”被武器化为政府审查和控制。至少当你有多个强大的私营部门参与者时，这变得更加困难。相比之下，赢家通吃的动态更可能产生奥威尔式的结果。 — 开源可能会发挥重要作用。这些模型在以10-20%的成本提供80-90%的能力方面表现出色。这种权衡对那些重视定制、控制和成本而非前沿能力的客户来说非常有吸引力。中国在开源方面全力以赴，因此看到更多美国公司在这一领域竞争是件好事，正如OpenAI刚刚做的那样。（Meta也值得称赞。） — 在通用基础模型和特定垂直应用之间可能会有劳动分工。我们不太可能看到一个超级智能捕获所有价值，而是可能看到许多代理应用解决“最后一公里”问题。这对初创生态系统来说是个好消息。 — 人类与AI之间的劳动分工也越来越明确。尽管取得了所有令人惊叹的进展，AI模型在设定自己的目标函数方面仍然是零。模型需要上下文，必须进行大量提示，输出必须经过验证，并且这一过程必须反复迭代以实现有意义的商业价值。这就是为什么Balaji说AI不是端到端的，而是中间到中间的。这意味着对工作损失的末日预测与AGI本身一样被过度炒作。相反，“你不会因为AI失去工作，而是因为比你更好地使用AI的人失去工作”的真理依然成立。 总之，最新发布的AI模型显示，模型能力比许多人预测的更加分散。虽然不能保证这种情况会持续——市场总有可能在投资超级周期结束后聚集到少数参与者手中——但当前的激烈竞争状态是健康的。它推动创新向前发展，帮助美国赢得AI竞赛，并避免集中控制。这是个好消息——悲观主义者没有预料到的。

全球20大最强AI超级计算机 💻️