من الأرشيف: سألنا @MarkChen (كبير مسؤولي الأبحاث في @OpenAI) كيف يمكن لمطاردة مقاييس المستخدم أن تضر بتطوير الذكاء الاصطناعي. وسلط الضوء على كيف يمكن لمطاردة المقاييس البسيطة مثل المستخدمين النشطين يوميا (DAU) أن تشوه سلوك النموذج بمرور الوقت: "إذا قمت فقط بتعزيز الاستجابات حيث يقول المستخدمون إبهاما ، فهذا يخلق شرطا للنموذج ... حيث يبدأ في امتصاصك ، قائلا "مرحبا ، أنت على حق" ، حتى في المواقف المعقدة حيث تقول بموضوعية أن هذا الشخص مخطئ ". وصف تشين الحاجة إلى نهج دقيق للمقاييس: "نحن بحاجة إلى أن نكون رأيين بشأن الميزات التي نبنيها. قم بالبناء للأشياء التي يريدها الناس ، وربما لا يعرفون بالضرورة أنهم يريدونها اليوم ، ثم استخدم DAU كمنتج ثانوي ". "لا نريد أن نقع في هذه الفخاخ حيث يتحول هذا بعد ثلاث أو أربع سنوات من الآن إلى طعم اشتباك."