## 人类级效率是 AGI 所必需的 结束了一次伟大的 🇸🇬 旅行,我有幸与 @agihippo 一起度过时光,并见到了 @jeffdean、@quocleix、@denny_zhou 等人,听取了他们关于 "GDM 状态" 2025 的更新* 在我们对话中,迄今为止 #1 的反复主题是学习效率。推理时间计算现在非常流行,但 #效率即将到来,而我通常在这种前沿实验室共识通过我厚厚的头脑达到之前,领先大多数人 3-6 个月。 当我从自监督学习和 RLAIF 以及 RLVR 的突破中画出一条联系时,人们常常感到惊讶,然后通常会同意,因为它们都是每个数据点获得的性能的步骤变化,而这种效率的下一个指数跳跃显然是 Quoc 在他下面提到的演讲中确认 Ilya 也在研究的内容 + Ilya 在 NeurIPS 上识别的 "山"。 我敢打赌,这个解决方案是一个新的非变换器块/抽象,不仅仅是 "多智能体",而更像是实时测试和潜在世界模型假设的解决方案,就像你解决数独谜题或玩 Cluedo 一样。这是我所知道的唯一系统化的方法,可以将人类学习过程简化到我们可以用每个概念 10-20 倍少于当前 SOTA 的数据点进行少量学习。 如果我是研究人员,我现在会从这里开始……如果这是 @ylecun 的最终胜利,那将是非常讽刺/酷的。 *+ 还与当地主权财富基金和初创公司进行了几次会议!
8.01K