Planeador de Janela de Contexto

O Planejador de Janela de Contexto ajuda você a otimizar prompts para grandes modelos de linguagem, visualizando o uso de tokens. Ele garante que seus prompts cabem dentro dos limites de contexto do modelo, maximizando ao mesmo tempo o espaço para a resposta do modelo.

Cada LLM possui uma janela de contexto máxima (por exemplo, 128K para GPT-4, 200K para Claude). Isso inclui seu prompt do sistema, histórico de conversa, saída esperada e buffer. O planejamento ajuda a evitar respostas truncadas ou tokens desperdiçados.

Selecione seu modelo de destino. Insira seu prompt do sistema, histórico de conversa e comprimento de saída esperado. A visualização mostra como o espaço de contexto é usado. Ajuste o conteúdo para caber dentro dos limites, reservando espaço para a resposta.

Clique em 'Estimativa automática' para calcular automaticamente a quantidade de tokens do seu conteúdo. A ferramenta utiliza tokenização precisa para cada modelo. Consulte as informações de uso para ver as contagens exatas de tokens e a capacidade restante.