Цей документ OpenAI містить кілька дуже переконливих пояснень про те, чому галюцинації зберігаються і що з цим робити. Зокрема, після тренування ми повинні перестати карати моделей за те, що вони кажуть, що вони не знають відповіді, і перестати винагороджувати надмірно впевнене вгадування. Викорінення галюцинацій було б одним із найбільших удосконалень штучного інтелекту для корпоративних випадків використання, таких як право, фінанси, охорона здоров'я та багато інших галузей з високою вартістю. Це було б дуже великою справою, якщо ми зможемо продовжувати досягати значного прогресу в цій сфері.
49,56K