Jendela konteks sekitar satu juta token dapat memuat codebase berukuran sedang, kumpulan kontrak, atau log chat selama berbulan-bulan dalam satu request. Beberapa model di GetVibe API menawarkan jendela sebesar itu, mulai dari model flagship hingga model flash berbiaya rendah. Semuanya berjalan pada satu endpoint yang kompatibel dengan OpenAI dan satu key.
Daftarnya
Batas konteks dan output berasal dari katalog kami (caps.contextWindow di https://getvibeapi.com/api/catalog). Harga diperbarui secara live.
| Model | Konteks | Output maksimum | Gambar | Mode JSON | Harga |
|---|---|---|---|---|---|
| Claude Opus 5.5 | 1,000,000 | 128,000 | ya | ya | $0.1974 input · $0.9867 output per 1 juta token |
| Claude Sonnet 5 | 1,000,000 | 64,000 | ya | ya | $0.3334 input · $1.6667 output per 1 juta token |
| GPT-5.6 Sol | 1,050,000 | 128,000 | ya | ya | $0.0667 input · $0.40 output per 1 juta token |
| Gemini 3.1 Pro | 1,000,000 | 65,000 | ya | ya | $0.2515 input · $1.5086 output per 1 juta token |
| Gemini 3.8 Flash | 1,000,000 | 65,000 | ya | tidak | $0.0097 input · $0.0483 output per 1 juta token |
| DeepSeek V4.1 Flash | 1,000,000 | 393,216 | ya | ya | $0.0112 input · $0.0445 output per 1 juta token |
| GLM-5.3 | 1,048,000 | 128,000 | tidak | tidak | $0.10 input · $0.3143 output per 1 juta token |
| GLM-5.3 Flash | 1,048,000 | 128,000 | ya | tidak | $0.0112 input · $0.0371 output per 1 juta token |
Model kelas 1M lainnya juga tersedia di katalog, termasuk versi Claude Opus yang lebih lama dan Gemini 3.7 Flash. Halaman Models menampilkan daftar lengkap dan memungkinkan Anda mengurutkannya.
Deklarasi versus pengukuran
Sebagian besar angka di atas adalah ukuran jendela yang dinyatakan oleh pembuat model. Untuk Claude Opus 5.5, kami juga mengukurnya sebelum dipublikasikan: request berisi 732,379 token dijawab dengan detail dari awal dan akhir prompt, sementara request yang melebihi 1,000,000 token ditolak karena telah mencapai batas model. Untuk model lainnya, lakukan pengujian dengan data Anda sendiri jika berencana beroperasi mendekati batas tersebut.
Cara menggunakan jendela panjang dengan baik
- Letakkan pertanyaan setelah materi. Kirim dokumen terlebih dahulu dan instruksi terakhir, sehingga model membaca tugas saat semuanya sudah tersedia dalam konteks.
- Tandai batas-batasnya. Bungkus setiap file atau dokumen dengan delimiter yang jelas dan sertakan namanya. Ini membantu model menunjukkan dari mana sebuah jawaban berasal.
- Periksa kedua ujungnya. Saat mengevaluasi model untuk input panjang, tanyakan detail di dekat awal dan detail lain di dekat akhir prompt yang sama.
- Sisakan ruang untuk jawaban. Input dan output menggunakan jendela yang sama, sehingga prompt yang memenuhi seluruh jendela tidak menyisakan ruang untuk balasan.
Biaya: setiap token input ditagihkan
Request lengkap berisi 1M token ditagihkan untuk setiap token input, sehingga konteks panjang adalah cara paling mahal untuk memanggil model. Dua hal berikut dapat membantu mengendalikannya:
- Prompt caching. Jika Anda mengajukan beberapa pertanyaan tentang materi yang sama, pertahankan materi tersebut sebagai prefix yang tidak berubah. Input yang di-cache ditagihkan dengan sebagian kecil dari tarif input. Lihat panduan prompt caching.
- Pilih tier berdasarkan tugas. Untuk pencarian dan ekstraksi dari input besar, model flash dengan jendela 1M mungkin sudah cukup. Gunakan model flagship untuk penalaran lintas materi.
from openai import OpenAI
client = OpenAI(base_url="https://getvibeapi.com/v1", api_key="sk-pv-...")
corpus = open("all_docs.txt").read()
resp = client.chat.completions.create(
model="deepseek-v4.1-flash",
messages=[
{"role": "system", "content": "Jawab hanya berdasarkan dokumen yang diberikan."},
{"role": "user", "content": corpus + "\n\nQuestion: kontrak mana yang menyebutkan biaya terminasi?"},
],
)
print(resp.choices[0].message.content)Langkah berikutnya
Baca artikel konteks 1M Claude Opus 5.5, bandingkan model di halaman Models, atau mulai dengan dokumentasi.