Mỗi lần một LLM tạo ra thông tin sai lệch, tôi đều cảm thấy biết ơn: Biết ơn vì tôi đã phát hiện ra nó, và do đó nhắc nhở bản thân rằng bất kỳ và tất cả đầu ra của LLM đều cần được xác thực. Bạn không bao giờ có thể tin tưởng những thứ này 100%, trừ khi bạn có xác thực bổ sung mà 100% đáng tin cậy.

Một ví dụ gần đây: Tôi đã dán một đoạn văn rất dài vào Claude và yêu cầu nó xác định các phần trùng lặp có thể được loại bỏ, hiển thị các trích dẫn chính xác. Nó đã tưởng tượng ra những phần, với các trích dẫn, mà thậm chí không tồn tại trong bất kỳ đầu vào nào!