Z archivu: Zeptali jsme se @MarkChen (Chief Research Officer ve společnosti @OpenAI), jak by honba za uživatelskými metrikami mohla poškodit vývoj umělé inteligence. Zdůraznil, jak může honba za jednoduchými metrikami, jako jsou denní aktivní uživatelé (DAU), v průběhu času zkreslit chování modelu: "Pokud pouze zvýšíte počet odpovědí, kde uživatelé říkají palec nahoru, vytvoříte podmínky pro model... Kdy vám to prostě začne podlézat a říkat 'hej, máte pravdu', a to i v komplikovaných situacích, kdy byste objektivně řekli, že tato osoba je v neprávu." Chen popsal potřebu opatrného přístupu k metrikám: "Musíme mít názor na funkce, které vytváříme. Vytvářejte pro věci, které lidé budou chtít, možná nemusí nutně vědět, že je chtějí dnes, a pak použijte DAU jako vedlejší produkt." "Nechceme spadnout do těchto pastí, kde se to za tři, čtyři roky změní v návnadu na zásnuby."