Tối ưu hóa LLM, một kỹ thuật thường dùng là nén, có hai con đường thao tác trái ngược. 1, Nén đầu vào, thường thấy ở các mô hình flagship, dùng khái niệm thay thế cho các đoạn mô tả dài; "prompt thần thánh" của Lý Ký Cương là một ví dụ điển hình, "Oscar Wilde" "Lỗ Tấn" "Lâm Ngữ Đường" thay thế cho phong cách viết; độ khó nằm ở việc hiểu và tích lũy khái niệm một cách trừu tượng, và cần phải thử nghiệm nhiều lần, khả năng thích ứng giữa các mô hình kém; 2. Nén đầu ra, áp dụng cho tất cả các mô hình, đặc biệt thấy ở các sản phẩm agentic, dùng các tools được đóng gói chính xác thay thế cho việc agent thực hiện nhiệm vụ hoàn chỉnh; độ khó nằm ở việc lựa chọn quy mô của tools, quá ít thì không hiệu quả, quá nhiều lại chiếm lấy sự chú ý, dẫn đến hiệu quả kém, thử thách triết lý thiết kế;