Оптимизация LLM, часто используемый прием — сжатие, существует два противоположных пути операций. 1. Сжатие входных данных, часто встречается в флагманских моделях, использование концепций вместо длинных описаний; примером является "божественный prompt" Ли Цзигана, где "Оскар Уайльд", "Лу Сюн", "Линь Юйтан" заменяют стиль написания; сложность заключается в абстрактном понимании и накоплении концепций, а также в необходимости многократных попыток, адаптация между моделями затруднена; 2. Сжатие выходных данных, подходит для всех моделей, особенно видно в продуктах с агентами, использование точно упакованных инструментов вместо полного выполнения задач агентом; сложность заключается в выборе масштаба инструментов, слишком мало — неэффективно, слишком много — отвлекает внимание, что приводит к ухудшению результата, проверяет философию дизайна;