Bạn thay đổi một từ trong đơn xin vay: tôn giáo. Mô hình LLM từ chối nó. Thay đổi lại? Được chấp thuận. Mô hình không bao giờ đề cập đến tôn giáo. Nó chỉ định hình tỷ lệ nợ giống nhau theo cách khác để biện minh cho những quyết định trái ngược. Chúng tôi đã xây dựng một quy trình để tìm ra những thiên kiến ẩn này 🧵1/13