+1 cho "kỹ thuật ngữ cảnh" thay vì "kỹ thuật nhắc nhở". Mọi người liên kết lời nhắc với mô tả nhiệm vụ ngắn mà bạn sẽ cung cấp cho LLM trong việc sử dụng hàng ngày của mình. Khi ở trong mọi ứng dụng LLM công nghiệp, kỹ thuật ngữ cảnh là nghệ thuật và khoa học tinh tế để lấp đầy cửa sổ ngữ cảnh với thông tin phù hợp cho bước tiếp theo. Khoa học vì làm đúng điều này liên quan đến mô tả và giải thích nhiệm vụ, một vài ví dụ về hình ảnh, RAG, dữ liệu liên quan (có thể là đa phương thức), công cụ, trạng thái và lịch sử, nén ... Quá ít hoặc sai dạng và LLM không có bối cảnh phù hợp để có hiệu suất tối ưu. Quá nhiều hoặc quá không liên quan và chi phí LLM có thể tăng lên và hiệu suất có thể giảm. Làm tốt điều này là rất không tầm thường. Và nghệ thuật vì trực giác hướng dẫn xung quanh tâm lý LLM của tinh thần con người. Ngoài bản thân kỹ thuật ngữ cảnh, một ứng dụng LLM phải: - chia nhỏ các vấn đề ngay thành các luồng kiểm soát - Đóng gói các cửa sổ ngữ cảnh vừa phải - gửi cuộc gọi đến LLM phù hợp với loại và khả năng - xử lý các luồng UIUX xác minh thế hệ - nhiều hơn nữa - lan can, bảo mật, evals, parallelism, prefetching,... Vì vậy, kỹ thuật ngữ cảnh chỉ là một phần nhỏ của một lớp mềm dày mới nổi của phần mềm không tầm thường điều phối các cuộc gọi LLM riêng lẻ (và nhiều hơn thế nữa) thành các ứng dụng LLM đầy đủ. Thuật ngữ "ChatGPT wrapper" đã mệt mỏi và thực sự, thực sự sai.