Andrej Karpathy ủng hộ việc giới thiệu một thuật ngữ mới liên quan đến "kỹ thuật ngữ cảnh" trong phát triển phần mềm AI sử dụng LLM. Và thuật ngữ này từ lâu dường như rất cần thiết. Mỗi khi tôi giải thích cho mọi người cách chúng tôi phát triển Nethermind AuditAgent của mình, một trong những khía cạnh chính, bên cạnh việc sử dụng chuyên môn về lĩnh vực (bảo mật web3) và sử dụng các mô hình AI tốt nhất hiện có (từ OpenAI, Anthropic và Google) và các công cụ cho LLM, chính xác là "kỹ thuật ngữ cảnh". Đôi khi có một cụm từ "bối cảnh là vua", và điều đó thực sự đúng. LLM, cho dù là LLM nâng cao lớn hay LLM nhỏ được tối ưu hóa, là một công cụ mạnh mẽ, nhưng giống như bất kỳ công cụ nào, nếu nó rơi vào tay kẻ xấu, bạn sẽ nhận được kết quả kém hứa hẹn hơn nhiều so với nếu bạn làm việc với chúng một cách chính xác. Và quản lý ngữ cảnh (hoặc kỹ thuật) thực sự là một lĩnh vực phức tạp và không được mô tả rõ ràng liên tục phát triển, và nó thực sự nổi lên như một phần mở rộng của khái niệm kỹ thuật nhanh chóng, vốn đã có một số ý nghĩa tiêu cực. Nhìn chung, Andrej liệt kê các khía cạnh chính liên quan đến kỹ thuật ngữ cảnh (trên ảnh chụp màn hình thứ hai), nhưng trong mỗi nhiệm vụ cụ thể, mọi người đạt được kết quả xuất sắc phần lớn thông qua thử và sai, mỗi lần cố gắng đơn điệu để chọn các yếu tố ngữ cảnh phù hợp thực sự cần thiết ở giai đoạn giải quyết vấn đề này, thu thập điểm chuẩn cho từng giai đoạn, xem xét các số liệu, chia bộ dữ liệu thành thử nghiệm, xác nhận, và vân vân, và vân vân. Bạn nghĩ gì về "kỹ thuật ngữ cảnh"?