Из архива: Мы спросили @MarkChen (главного научного сотрудника @OpenAI), как стремление к пользовательским метрикам может навредить развитию ИИ. Он подчеркнул, как стремление к простым метрикам, таким как количество активных пользователей в день (DAU), может искажать поведение модели со временем: "Если вы просто увеличиваете количество ответов, где пользователи ставят лайк, это создает условия для модели... где она начинает подлизываться к вам, говоря 'эй, ты прав', даже в сложных ситуациях, где объективно вы бы сказали, что этот человек не прав." Чен описал необходимость осторожного подхода к метрикам: "Нам нужно быть уверенными в тех функциях, которые мы создаем. Создавайте для того, что людям будет нужно, возможно, они даже не знают, что им это нужно сегодня, а затем используйте DAU как побочный продукт." "Мы не хотим попасть в эти ловушки, где через три-четыре года это превратится в приманку для вовлечения."