也许超级看涨的AI评论员和领导者应该都感染一些罕见的热带疾病，以展示他们的投入和对自己短期预测的信心。😃

在人工智能的讨论中，似乎存在着一个永恒的舞蹈，参与者之间有些人非常强调过程，而另一些人则专注于结果。这在“这算是推理吗？”的辩论中显得相当明显。我认为两者在不同方面都是正确的：当然，从某种意义上说，模型是在推理，而从功能上讲，我并不在乎导致链式推理和输出的机制是否与生物大脑的运作方式相似。但同样，关于所使用的推理类型、某些选择的逻辑链的理由，以及这些推理在分布外情况中普遍化的程度，都是重要的考虑因素。“过程派”并不总是盲目的反对者，而“功能等价派”也并非根本错误。 不过，过程失败（例如草莓中的R）过去更容易被发现，许多“意识形态怀疑者”依赖于这些失败来提出各种不支持的主张，这使得“叙事活动家”完全忽视过程问题变得诱人。显然，模型正在以惊人的速度改进，这很好。但在生成结果的过程中仍然存在失败或空白；在编码、数学、形式逻辑或验证容易的领域，这不是一个大问题，但在我们重视过程多样性的模糊领域中，这就成了一个问题，因为我们并不知道“正确的方法”，甚至是否存在单一的方法。人类经历了文化和科学的演变，随着时间的推移，精炼了启发式和机制；我认为我们也应该保持一定程度的模型多样性和认知多样性。 如果你仅仅在结果上进行严格优化，你很容易会收敛到推理单一文化，这在分布内表现良好，但在多样化推理方法能够产生有用信号的情况下却失败。因此，我非常支持“让一千朵花盛开”的规范对齐方法，并且普遍坚持应该有更广泛的人群和团体能够定制和对齐模型，而不仅仅是那些恰好在实验室中有能力这样做的人。 当然，许多人类认知多样性也可能是噪音，比如动机性推理、系统性偏见和不追踪真相的文化路径依赖，因此你并不只是为了多样性而追求多样性。你需要能够真正压力测试推理的验证机制：例如，对抗性合作的使用不足。你需要旨在促进寻求真相的机构，这些机构确实很难建立，以及对思想市场的强有力的文化和法律保护，这些保护正面临越来越大的压力。你还需要更好的认识基础设施：我们可以做大量工作来改善科学的进行方式。

资深工程师关于AI如何改变他们工作的迷人见解。自动化如何也创造出各种新任务和瓶颈，真是有趣。