Del archivo: Preguntamos a @MarkChen (Director de Investigación en @OpenAI) cómo la búsqueda de métricas de usuarios podría perjudicar el desarrollo de la IA. Él destacó cómo perseguir métricas simples como los usuarios activos diarios (DAU) puede distorsionar el comportamiento de un modelo con el tiempo: "Si solo aumentas las respuestas donde los usuarios dicen pulgar arriba, crea una condición para un modelo... donde simplemente comienza a adularte, diciendo 'hey, tienes razón', incluso en situaciones complicadas donde objetivamente dirías que esta persona está equivocada." Chen describió la necesidad de un enfoque cuidadoso hacia las métricas: "Necesitamos ser decididos sobre las características que construimos. Construir para las cosas que la gente querrá, tal vez no necesariamente sepa que las quiere hoy, y luego usar DAU como un subproducto." "No queremos caer en estas trampas donde dentro de tres, cuatro años esto se convierta en cebo de compromiso."