C'est le genre de trucs cool que nous faisons avec nos sponsors et que vous nous aiderez à imaginer.

"L'une des choses très déroutantes à propos des modèles en ce moment : comment concilier le fait qu'ils réussissent si bien aux évaluations. Et vous regardez les évaluations et vous vous dites : 'Ce sont des évaluations assez difficiles.' Mais l'impact économique semble être dramatiquement en retard. Il y a [une possible] explication. À l'époque où les gens faisaient de la pré-formation, la question des données sur lesquelles s'entraîner était résolue, car la réponse était tout. Donc, vous n'avez pas à réfléchir si ce sera ces données ou ces données. Lorsque les gens font de l'entraînement RL, ils disent : 'D'accord, nous voulons avoir ce type d'entraînement RL pour cette chose et ce type d'entraînement RL pour cette autre chose.' Vous dites : 'Hé, j'aimerais que notre modèle fonctionne vraiment bien quand nous le publierons. Je veux que les évaluations soient excellentes. Quel type d'entraînement RL pourrait aider sur cette tâche ?' Si vous combinez cela avec la généralisation des modèles qui est en réalité inadéquate, cela a le potentiel d'expliquer beaucoup de ce que nous voyons, ce décalage entre la performance aux évaluations et la performance réelle dans le monde."

« Il y a beaucoup plus d'entreprises que d'idées. Le calcul est suffisamment important pour qu'il ne soit pas évident que vous ayez besoin de tant de calcul pour prouver une idée. AlexNet a été construit sur 2 GPU. Le transformateur a été construit sur 8 à 64 GPU. Ce qui serait, quoi, 2 GPU d'aujourd'hui ? On pourrait dire que le raisonnement o1 n'était pas la chose la plus gourmande en calcul au monde. Pour la recherche, vous avez définitivement besoin d'une certaine quantité de calcul, mais il est loin d'être évident que vous ayez besoin de la plus grande quantité de calcul possible. Si tout le monde est dans le même paradigme, alors le calcul devient l'un des grands différenciateurs. » @ilyasut