Планировщик контекстного окна

Планировщик контекстного окна помогает вам оптимизировать подсказки для больших языковых моделей, визуализируя использование токенов. Он гарантирует, что ваши подсказки укладываются в пределы контекста модели, максимально увеличивая пространство для ответа модели.

Каждая LLM имеет максимальное контекстное окно (например, 128K для GPT-4, 200K для Claude). Это включает вашу системную подсказку, историю разговора, ожидаемый вывод и буфер. Планирование помогает избежать усечённых ответов или потраты токенов.

Выберите целевую модель. Введите системную подсказку, историю разговора и ожидаемую длину вывода. Визуализация показывает, как используется контекстное пространство. Отрегулируйте содержимое так, чтобы оно укладывалось в пределы, резервируя место для ответа.

Нажмите 'Автооценка', чтобы автоматически рассчитать количество токенов для вашего содержимого. Инструмент использует точную токенизацию для каждой модели. Ознакомьтесь с информацией об использовании, чтобы увидеть точные количества токенов и оставшуюся ёмкость.