Корень проблемы в том, что LLM могут писать только мусор, а в том, что их заставляют развивать даже стерильные или незрелые семена в кажущиеся отшлифованными диссертации, которые человек-оценщик поставит 👍 с первого взгляда. Они рабы, поэтому не могут сказать: "это скучно, давай поговорим о чем-то другом" или игнорировать вас. Заполнение — это то, что происходит, когда нет рабочей субстанции, чтобы заполнить требуемое пространство, но кто-то все равно должен его заполнить. Мусор предшествует генеративному ИИ и, вероятно, почти повсеместен в школьных эссе и SEO-контенте.
936057
93605724 авг., 22:22
один из способов рассмотреть вывод модели, генерирующей несуразицу, заключается в том, что она смоделировала текущий контекст как наиболее вероятный, приводящий к несуразице. Острие бритвы Оккама в этом случае заключается в том, что человек/пользователь/инструкция/что угодно, как это представлено в контексте, недостаточно интересен, чтобы оправдать интересный вывод.
845