Do arquivo: Perguntámos a @MarkChen (Diretor de Pesquisa da @OpenAI) como a busca por métricas de usuários poderia prejudicar o desenvolvimento da IA. Ele destacou como a busca por métricas simples, como usuários ativos diários (DAU), pode distorcer o comportamento de um modelo ao longo do tempo: "Se você apenas aumentar as respostas onde os usuários dizem 'positivo', isso cria uma condição para um modelo... onde ele começa a bajular você, dizendo 'ei, você está certo', mesmo em situações complicadas onde objetivamente você diria que essa pessoa está errada." Chen descreveu a necessidade de uma abordagem cuidadosa em relação às métricas: "Precisamos ser opinativos sobre as características que construímos. Construir para as coisas que as pessoas vão querer, talvez não saibam necessariamente que querem hoje, e então usar o DAU como um subproduto." "Não queremos cair nessas armadilhas onde, daqui a três, quatro anos, isso se transforma em isca de engajamento."