我遇到了一个非常有趣的问题。当我们给AI一个需要1天到1周才能完成的编码任务时，比较和学习不同的方法是否值得？ 这是一个根本性的问题。我们的选择是1. 用直觉来判断一个长期运行的任务表现得如何 2. 花一年时间比较方法和测试理论，而这些理论在我得到足够样本量时可能已经过时 学习如何构建这些长期运行的任务工作流程将会有一点公共悲剧的性质。学习正确的工作流程的投资远高于复制你看到的有效产品。

要预测人工智能的未来，你不能仅仅依靠对光标进步的直觉 你必须理解人工智能是如何变得更好的，以及它具体在哪些方面变得更好 我们目前正处于一个仅仅在扩大系统规模的阶段。这在未来5到10年内会遇到已知的物理限制 有些事情我们可以看到随着规模的扩大而变得更好。其他技能则没有改善 显然，我们需要一个根本性的突破，而这个突破是我们无法预测或了解的，以根本性地取代人类。有些事情是人工智能无法达到的，这些事情是将人类从循环中移除所必需的 如果我们滑向冰球将要去的地方，正确的架构应该假设模型在它们已经擅长的领域比当前模型更好，并识别我们可以如何通过提供工具来提升一个高效能个体的生产力。全面取代人类是行不通的

我认识的最聪明的人类在提出聪明的探究性问题方面非常高效。 在这个指标上，每个AI模型都比一个人类孩子更愚蠢。