Simulator Perbualan

Alat perancangan yang menganggarkan bagaimana kiraan token dan kos berkembang merentas sembang LLM berbilang giliran. Anda memilih satu daripada lapan model yang disertakan, secara pilihan menambah system prompt, kemudian memasukkan mesej pengguna dan pembantu satu demi satu; alat ini menunjukkan kiraan token input/output kumulatif, baki tetingkap konteks, jumlah anggaran kos, dan bar penggunaan konteks berkod warna.

1. Pilih model daripada senarai juntai bawah Select (setiap pilihan menunjukkan saiz tetingkap konteks dalam K). 2. Secara pilihan, taip System Prompt. 3. Klik Add User atau Add Assistant untuk menambah baris mesej; taip kandungan ke dalam setiap Textarea. 4. Perhatikan kad Summary mengemas kini token input, token output, token baki, dan anggaran kos, serta bar penggunaan (hijau di bawah 50%, amber 50-80%, merah di atas 80%).

Token dianggarkan sebagai ceil(aksara / 3.5) bagi setiap mesej. System prompt hanya dikira sebagai input. Setiap mesej pengguna menambah token input kumulatif dan setiap mesej pembantu menambah token output kumulatif. Kos untuk keseluruhan perbualan dikira sebagai (inputKumulatif / 1_000_000 * model.inputPrice) + (outputKumulatif / 1_000_000 * model.outputPrice), jadi setiap giliran yang ditambah mengebil semula keseluruhan sejarah terdahulu sebagai input — menggambarkan mengapa kos sembang berkembang secara super-linear.