Från arkivet: Vi frågade @MarkChen (Chief Research Officer på @OpenAI) hur jakten på användarmätvärden kan skada AI-utvecklingen. Han belyste hur jakten på enkla mätvärden som dagliga aktiva användare (DAU) kan förvränga en modells beteende över tid: "Om du bara boostar svaren där användarna säger tummen upp, skapar det en förutsättning för en modell ... där det bara börjar suga upp dig och säga 'hej, du har rätt', även i komplicerade situationer där du objektivt sett skulle säga att den här personen har fel." Chen beskrev behovet av ett försiktigt tillvägagångssätt för mätvärden: "Vi måste ha åsikter om de funktioner vi bygger. Bygg för de saker som människor vill ha, kanske inte nödvändigtvis vet att de vill ha idag, och använd sedan DAU som en biprodukt." "Vi vill inte falla i de här fällorna där det här om tre, fyra år blir ett lockbete."