Почему LLMs галлюцинируют? Потому что такое поведение вознаграждается. Они такие же, как многие финансовые профессионалы! "Галлюцинации продолжаются из-за того, как оцениваются большинство тестов - языковые модели оптимизированы для того, чтобы хорошо сдавать экзамены, и угадывание в условиях неопределенности улучшает результаты тестов."