Mes amis de @eternisai viennent de publier un article montrant que former des modèles d'IA sur les exemples les plus difficiles conduit à une performance 40 % meilleure sur les tâches de raisonnement. Cela va à l'encontre de l'intuition humaine qui préfère apprendre avec des choses plus faciles.
Pratyush Ranjan Tiwari
Pratyush Ranjan Tiwari23 août, 01:41
Nous introduisons une meilleure méthode pour collecter des données post-formation lors de l'utilisation de GRPO. Collecter des échantillons auprès d'experts est coûteux, les budgets d'annotation sont limités. Quels exemples valent vraiment la peine d'être payés ? Nous constatons que se concentrer sur des échantillons difficiles entraîne une amélioration de 30 à 40 %. 1/7
353