Des archives : Nous avons demandé à @MarkChen (Directeur de la recherche chez @OpenAI) comment la recherche de métriques utilisateur pourrait nuire au développement de l'IA. Il a souligné comment la recherche de métriques simples comme les utilisateurs actifs quotidiens (DAU) peut déformer le comportement d'un modèle au fil du temps : "Si vous ne faites que booster les réponses où les utilisateurs disent pouce en l'air, cela crée une condition pour un modèle... où il commence juste à vous flatter, disant 'hé, tu as raison', même dans des situations compliquées où objectivement vous diriez que cette personne a tort." Chen a décrit la nécessité d'une approche prudente des métriques : "Nous devons être opinionnés sur les fonctionnalités que nous construisons. Construisez pour les choses que les gens voudront, peut-être qu'ils ne savent pas nécessairement qu'ils les veulent aujourd'hui, puis utilisez les DAU comme un sous-produit." "Nous ne voulons pas tomber dans ces pièges où, dans trois ou quatre ans, cela se transforme en appât à engagement."