लगभग दस लाख tokens की context window में एक मध्यम आकार का codebase, contracts का एक बड़ा संग्रह या महीनों के chat logs को एक ही request में रखा जा सकता है। GetVibe API पर कई मॉडल इस आकार की window देते हैं, flagship से लेकर कम-लागत वाले flash models तक। ये सभी एक OpenAI-compatible endpoint और एक key पर चलते हैं।
सूची
Context और output limits हमारे catalog (caps.contextWindow in https://getvibeapi.com/api/catalog) से लिए गए हैं। Prices live हैं।
| मॉडल | Context | अधिकतम output | Images | JSON mode | Price |
|---|---|---|---|---|---|
| Claude Opus 5.5 | 1,000,000 | 128,000 | yes | yes | $0.1974 इनपुट · $0.9867 आउटपुट प्रति 10 लाख टोकन |
| Claude Sonnet 5 | 1,000,000 | 64,000 | yes | yes | $0.3334 इनपुट · $1.6667 आउटपुट प्रति 10 लाख टोकन |
| GPT-5.6 Sol | 1,050,000 | 128,000 | yes | yes | $0.0667 इनपुट · $0.40 आउटपुट प्रति 10 लाख टोकन |
| Gemini 3.1 Pro | 1,000,000 | 65,000 | yes | yes | $0.2515 इनपुट · $1.5086 आउटपुट प्रति 10 लाख टोकन |
| Gemini 3.8 Flash | 1,000,000 | 65,000 | yes | no | $0.0097 इनपुट · $0.0483 आउटपुट प्रति 10 लाख टोकन |
| DeepSeek V4.1 Flash | 1,000,000 | 393,216 | yes | yes | $0.0112 इनपुट · $0.0445 आउटपुट प्रति 10 लाख टोकन |
| GLM-5.3 | 1,048,000 | 128,000 | no | no | $0.10 इनपुट · $0.3143 आउटपुट प्रति 10 लाख टोकन |
| GLM-5.3 Flash | 1,048,000 | 128,000 | yes | no | $0.0112 इनपुट · $0.0371 आउटपुट प्रति 10 लाख टोकन |
अन्य 1M-class models भी catalog में हैं, जिनमें पुराने Claude Opus versions और Gemini 3.7 Flash शामिल हैं। Models page पूरी सूची दिखाता है और आपको इसे sort करने देता है।
घोषित सीमा बनाम मापी गई सीमा
ऊपर दिए गए अधिकांश numbers वह window हैं जिन्हें model maker घोषित करता है। Claude Opus 5.5 के लिए हमने publish करने से पहले स्वयं भी माप किया: 732,379-token request का उत्तर prompt की शुरुआत और अंत, दोनों की details के साथ मिला, और 1,000,000 tokens से अधिक की request model की limit पर reject कर दी गई। अन्य models के लिए, यदि आप limit के करीब चलाने की योजना बना रहे हैं, तो अपने data के साथ test करें।
लंबी window का सही उपयोग कैसे करें
- Question को material के बाद रखें। पहले documents भेजें और instruction अंत में रखें, ताकि model task को उस समय पढ़े जब सब कुछ पहले से context में मौजूद हो।
- Boundaries स्पष्ट करें। हर file या document को उसके नाम के साथ clear delimiters में wrap करें। इससे model को यह cite करने में मदद मिलती है कि answer कहाँ से आया।
- दोनों सिरों की जाँच करें। लंबे inputs के लिए किसी model का evaluation करते समय, उसी prompt की शुरुआत के पास की एक detail और अंत के पास की एक detail के बारे में पूछें।
- Answer के लिए जगह छोड़ें। Input और output window साझा करते हैं, इसलिए जो prompt window को पूरी तरह भर देता है उसमें reply के लिए कोई जगह नहीं बचती।
Cost: हर input token का billing होता है
पूरे 1M-token request में हर input token का billing होता है, इसलिए long context किसी model को call करने का सबसे महँगा तरीका है। दो चीजें इसकी लागत को नियंत्रित रखने में मदद करती हैं:
- Prompt caching. यदि आप एक ही material के बारे में कई questions पूछते हैं, तो उसे unchanged prefix के रूप में रखें। Cached input का billing input rate के एक अंश पर होता है। prompt caching guide देखें।
- Task के अनुसार tier चुनें। बड़े input पर search-and-extract के लिए 1M window वाला flash model पर्याप्त हो सकता है। Material पर reasoning के लिए flagships बचाकर रखें।
from openai import OpenAI
client = OpenAI(base_url="https://getvibeapi.com/v1", api_key="sk-pv-...")
corpus = open("all_docs.txt").read()
resp = client.chat.completions.create(
model="deepseek-v4.1-flash",
messages=[
{"role": "system", "content": "केवल दिए गए documents से answer दें।"},
{"role": "user", "content": corpus + "\n\nQuestion: किन contracts में termination fee का उल्लेख है?"},
],
)
print(resp.choices[0].message.content)अगले कदम
Claude Opus 5.5 1M context article पढ़ें, Models page पर models की तुलना करें या documentation से शुरुआत करें।