Andrej Karpathy ủng hộ việc giới thiệu một thuật ngữ mới liên quan đến "kỹ thuật ngữ cảnh" trong phát triển phần mềm AI sử dụng LLMs. Và thuật ngữ này từ lâu đã có vẻ rất cần thiết. Mỗi khi tôi giải thích cho mọi người cách chúng tôi phát triển AuditAgent của Nethermind, một trong những khía cạnh chính, bên cạnh việc sử dụng chuyên môn trong lĩnh vực (bảo mật web3) và sử dụng các mô hình AI tốt nhất có sẵn (từ OpenAI, Anthropic và Google), và các công cụ cho LLM, chính là "kỹ thuật ngữ cảnh". Đôi khi có một câu nói "ngữ cảnh là vua," và điều đó thực sự đúng. LLMs, dù là những mô hình lớn tiên tiến hay những LLM nhỏ được tối ưu hóa, đều là một công cụ mạnh mẽ, nhưng giống như bất kỳ công cụ nào, nếu nó nằm trong tay sai, bạn sẽ nhận được kết quả kém hứa hẹn hơn nhiều so với những gì bạn có thể đạt được nếu làm việc với chúng một cách chính xác. Và quản lý (hoặc kỹ thuật) ngữ cảnh thực sự là một lĩnh vực phức tạp và không được mô tả rõ ràng, đang liên tục phát triển, và nó thực sự xuất hiện như một sự mở rộng của khái niệm kỹ thuật prompt, vốn đã có một số ý nghĩa tiêu cực. Tổng thể, Andrej đã liệt kê các khía cạnh chính liên quan đến kỹ thuật ngữ cảnh (trên ảnh chụp màn hình thứ hai), nhưng trong mỗi nhiệm vụ cụ thể, mọi người đạt được kết quả xuất sắc phần lớn thông qua thử nghiệm và sai sót, mỗi lần đơn điệu cố gắng chọn các yếu tố ngữ cảnh phù hợp thực sự cần thiết ở giai đoạn giải quyết vấn đề này, thu thập các tiêu chuẩn cho mỗi giai đoạn, xem xét các chỉ số, chia tập dữ liệu thành kiểm tra, xác thực, và nhiều hơn nữa. Bạn nghĩ gì về "kỹ thuật ngữ cảnh"?