Za każdym razem, gdy LLM halucynuje, jestem wdzięczny: Wdzięczny, że to zauważyłem, i tym samym przypominam sobie, że wszelkie wyniki LLM muszą być weryfikowane. Nigdy nie można ufać tym rzeczom w 100%, chyba że masz dodatkową weryfikację, która jest w 100% niezawodna.

Ostatni przykład: Wkleiłem bardzo długi tekst do Claude'a i poprosiłem go o zidentyfikowanie powtarzających się fragmentów, które można usunąć, pokazując dokładne cytaty. Wymyślił fragmenty, z cytatami, które nawet nie istnieją w żadnym z wejść!