Phần mềm lập kế hoạch cửa sổ ngữ cảnh

Trình Lập Kế Hoạch Cửa Sổ Ngữ Cảnh giúp bạn tối ưu hóa prompt cho các mô hình ngôn ngữ lớn bằng cách trực quan hóa việc sử dụng token. Nó đảm bảo prompt của bạn nằm trong giới hạn ngữ cảnh của mô hình, đồng thời tối đa hóa không gian cho phản hồi của mô hình.

Mỗi LLM có một cửa sổ ngữ cảnh tối đa (ví dụ: 128K cho GPT-4, 200K cho Claude). Điều này bao gồm prompt hệ thống, lịch sử hội thoại, đầu ra dự kiến và bộ đệm. Lập kế hoạch giúp tránh phản hồi bị cắt ngang hoặc lãng phí token.

Chọn mô hình mục tiêu của bạn. Nhập prompt hệ thống, lịch sử hội thoại và độ dài đầu ra dự kiến. Hình ảnh hóa cho thấy không gian ngữ cảnh được sử dụng như thế nào. Điều chỉnh nội dung để nằm trong giới hạn, dành chỗ cho phản hồi.

Nhấp vào 'Ước lượng tự động' để tự động tính số lượng token cho nội dung của bạn. Công cụ sử dụng phân tách token chính xác cho từng mô hình. Xem Thông tin Sử dụng để biết số lượng token chính xác và dung lượng còn lại.