与技术监管一贯的情况一样，我认为许多AI法案和草案已经过时，跟不上技术的发展。几年前的假设导致了难以偏离的路径依赖。如今，AI的许多进步来自于后期训练、支架、工具使用和推理计算的扩展：这意味着即使模型在这些年中有所改善，推动有效可能性的前沿的也不仅仅是实验室，还有许多公司在模型上进行创新。此外，许多缓解措施，如过滤器、分类器、监督机制等，并不是应用于模型，而是应用于软件支架——因此，许多期望在模型层面缓解危害的法律提案并不是很有效。几年前，人们在偏见问题上意识到了这一点，现在又在许多其他问题上再次意识到了这一点。 对我来说，这些发展确认了(a) 首先，证明现有法律和疏忽不足的责任应在于提出这一点的人——很少有人做到这一点；(b) 当没有并且存在空白时，基于结果的监管更为有效，以允许复杂的参与者链协商适当的缓解/干预措施；(c) 这样做需要领域专业知识，并考虑现有的行业特定法律、规范等——即不是一些抽象的横向要求；(d) 模型权重安全性、作为警示的评估和基本透明度要求在模型层面上可能仍然有意义；(e) 你需要能够深入理解AI在其垂直领域中使用的合格监管者。 但你不会通过调整模型来“缓解”攻击性网络安全威胁或AI辅助欺诈。基于实体的方法也无法解决这些问题，只是假设你可以将风险（及相关的缓解措施）缩小到几个相同的参与者，类似于欧盟的方式。问题在于，适当的解决方案并不是特别吸引人，基本上不会带来“我们通过一次大规模干预解决了各种风险”的满足感。而且以这种方式进行将需要面对许多行业的过度监管现实，以及其他行业的不足（网络、生物？这取决于你的具体威胁模型）。

也许超级看涨的AI评论员和领导者应该都感染一些罕见的热带疾病，以展示他们的投入和对自己短期预测的信心。😃

在人工智能的讨论中，似乎存在着一个永恒的舞蹈，参与者之间有些人非常强调过程，而另一些人则专注于结果。这在“这算是推理吗？”的辩论中显得相当明显。我认为两者在不同方面都是正确的：当然，从某种意义上说，模型是在推理，而从功能上讲，我并不在乎导致链式推理和输出的机制是否与生物大脑的运作方式相似。但同样，关于所使用的推理类型、某些选择的逻辑链的理由，以及这些推理在分布外情况中普遍化的程度，都是重要的考虑因素。“过程派”并不总是盲目的反对者，而“功能等价派”也并非根本错误。 不过，过程失败（例如草莓中的R）过去更容易被发现，许多“意识形态怀疑者”依赖于这些失败来提出各种不支持的主张，这使得“叙事活动家”完全忽视过程问题变得诱人。显然，模型正在以惊人的速度改进，这很好。但在生成结果的过程中仍然存在失败或空白；在编码、数学、形式逻辑或验证容易的领域，这不是一个大问题，但在我们重视过程多样性的模糊领域中，这就成了一个问题，因为我们并不知道“正确的方法”，甚至是否存在单一的方法。人类经历了文化和科学的演变，随着时间的推移，精炼了启发式和机制；我认为我们也应该保持一定程度的模型多样性和认知多样性。 如果你仅仅在结果上进行严格优化，你很容易会收敛到推理单一文化，这在分布内表现良好，但在多样化推理方法能够产生有用信号的情况下却失败。因此，我非常支持“让一千朵花盛开”的规范对齐方法，并且普遍坚持应该有更广泛的人群和团体能够定制和对齐模型，而不仅仅是那些恰好在实验室中有能力这样做的人。 当然，许多人类认知多样性也可能是噪音，比如动机性推理、系统性偏见和不追踪真相的文化路径依赖，因此你并不只是为了多样性而追求多样性。你需要能够真正压力测试推理的验证机制：例如，对抗性合作的使用不足。你需要旨在促进寻求真相的机构，这些机构确实很难建立，以及对思想市场的强有力的文化和法律保护，这些保护正面临越来越大的压力。你还需要更好的认识基础设施：我们可以做大量工作来改善科学的进行方式。