Вибрации AGI, притча: Жил-был Главный Разработчик ИИ, чей ИИ не показывал впечатляющих результатов на бенчмарках. Тем вечером все его соседи пришли, чтобы посочувствовать. Они сказали: "Нам очень жаль слышать, что глубокое обучение сталкивается с трудностями. Это очень печально." Главный Разработчик ответил: "Может быть." На следующий день LLM вернулся с семью огромными результатами бенчмарков и даже набрал 90% на LSAT. Вечером все снова пришли и сказали: "О, разве это не удача? Какой замечательный поворот событий. Теперь ты действительно близок к AGI!" Главный Разработчик ИИ снова сказал: "Может быть." На следующий день его сын попытался обучить следующую модель-предшественника, и во время обучения он обнаружил, что увеличение вычислительных мощностей на этапе предварительного обучения больше не дает результатов. Соседи тогда сказали: "О, беда, это очень плохо. Глубокое обучение сталкивается с трудностями." Главный Разработчик ИИ ответил: "Может быть." На следующий день Главный Разработчик ИИ объявил, что они достигли прорывных результатов, добавив вычисления во время вывода, масштабирование RL и использование инструментов. Соседи пришли и сказали: "О, вау, AGI скоро!" Главный Разработчик сказал: "Может быть."