L'inefficacité extrême de l'apprentissage par renforcement (RL) pour les modèles Frontier 🧵 Le passage de l'entraînement des modèles Frontier par prédiction du prochain token à l'apprentissage par renforcement (RL) nécessite de 1 000 à 1 000 000 fois plus de puissance de calcul par bit d'information que le modèle peut apprendre. 1/11