Este es el tipo de cosas geniales que hacemos con nuestros patrocinadores y que nos ayudas a hacer una lluvia de ideas.

"Una de las cosas más confusas de los modelos ahora mismo: cómo reconciliar el hecho de que les va tan bien en las evaluaciones. Y miras las evaluaciones y piensas: 'Son evaluaciones bastante duras.' Pero el impacto económico parece estar dramáticamente por detrás. Hay una posible explicación. Cuando la gente hacía pre-entrenamiento, la pregunta de qué datos usar entrenamiento se respondía, porque esa respuesta lo era todo. Así que no tienes que pensar si van a ser estos o aquellos datos. Cuando la gente hace entrenamiento de RL, dicen: 'Vale, queremos tener este tipo de entrenamiento de RL para esto y aquel tipo de entrenamiento de RL para aquello.' Dices: 'Oye, me encantaría que nuestro modelo funcionara muy bien cuando lo lancemos. Quiero que las evaluaciones queden geniales. ¿Qué entrenamiento en vida real podría ayudar en esta tarea?' Si combinas esto con la generalización de que los modelos son realmente insuficientes, eso podría explicar mucho de lo que estamos viendo, esta desconexión entre el rendimiento de evaluación y el rendimiento real en el mundo real"

"Hay más empresas que ideas con mucho. La computación es lo suficientemente grande como para que no sea evidente que necesites mucha más computación para demostrar alguna idea. AlexNet se construyó sobre 2 GPUs. El transformador se construyó con entre 8 y 64 GPUs. ¿Que serían, qué, 2 GPUs de hoy? Se podría argumentar que el razonamiento en O1 no era lo más pesado en cálculo del mundo. Para la investigación, definitivamente necesitas cierta cantidad de cálculo, pero no está nada claro que necesites la mayor cantidad de cálculo posible. Si todos están dentro del mismo paradigma, entonces la computación se convierte en uno de los grandes diferenciadores." @ilyasut