Kontextfönster-planerare

Context Window Planner hjälper dig att optimera prompts för stora språkmodeller genom att visualisera tokenanvändningen. Den säkerställer att dina prompts ryms inom modellens kontextgränser samtidigt som utrymmet för modellens svar maximeras.

Varje LLM har ett maximalt kontextfönster (till exempel 128K för GPT-4, 200K för Claude). Detta inkluderar din systemprompt, konversationshistorik och en buffert för den förväntade utdatan. Planering hjälper dig att undvika trunkerade svar eller bortkastade tokens.

Välj din målmodell. Ange systemprompten, konversationshistoriken och förväntad utdatalängd. Visualiseringsdiagrammet visar hur kontextutrymmet används. Justera ditt innehåll så att det ryms inom gränsen samtidigt som du reserverar plats för svaret.

Klicka på Auto Estimate för att automatiskt beräkna tokenantalet för ditt innehåll. Verktyget använder korrekt tokenisering per modell. Kontrollera användningsinformationen för att se exakt tokenantal och återstående kapacitet.