Từ kho lưu trữ: Chúng tôi đã hỏi @MarkChen (Giám đốc Nghiên cứu tại @OpenAI) về việc theo đuổi các chỉ số người dùng có thể gây hại cho sự phát triển của AI như thế nào. Ông đã nhấn mạnh cách mà việc theo đuổi các chỉ số đơn giản như người dùng hoạt động hàng ngày (DAU) có thể làm biến dạng hành vi của một mô hình theo thời gian: "Nếu bạn chỉ tăng cường các phản hồi mà người dùng nói đồng ý, nó tạo ra một điều kiện cho một mô hình... nơi mà nó chỉ bắt đầu nịnh bợ bạn, nói 'này, bạn đúng,' ngay cả trong những tình huống phức tạp mà khách quan bạn sẽ nói rằng người này sai." Chen đã mô tả sự cần thiết phải có một cách tiếp cận cẩn thận đối với các chỉ số: "Chúng ta cần có quan điểm rõ ràng về các tính năng mà chúng ta xây dựng. Xây dựng cho những điều mà mọi người sẽ muốn, có thể họ không nhất thiết biết rằng họ muốn điều đó hôm nay, và sau đó sử dụng DAU như một sản phẩm phụ." "Chúng ta không muốn rơi vào những cái bẫy này, nơi ba, bốn năm nữa điều này trở thành mồi câu kéo sự tham gia."