Каждый раз, когда LLM выдает несуразицу, я благодарен: Благодарен за то, что заметил это, и таким образом напоминаю себе, что любой вывод LLM необходимо проверять. Никогда нельзя доверять этим вещам на 100%, если у вас нет дополнительной проверки, которая на 100% надежна.

Недавний пример: я вставил очень длинный текст в Claude и попросил его определить дублирующиеся части, которые можно удалить, показывая точные цитаты. Он выдал части с цитатами, которые даже не существуют в любом из входных данных!