Sondage : Un débat actif dans le bureau de Compound est de savoir à quel point la recherche interne dans les laboratoires de pointe est en avance par rapport à l'académie de nos jours en général dans ce que nous pouvons appeler "l'IA traditionnelle" (définissez cela comme l'échelle normale des LLM, les transformateurs + des choses adjacentes comme les SSM, tout ce qui est lié à l'apprentissage par renforcement maintenant) Une partie de cela est due aux contraintes de calcul, d'autres simplement à la concentration/expérimentation. En ignorant complètement les nouvelles approches biologiques ou autre, les laboratoires de pointe par rapport à l'académie :