主题
语言
·1 分钟阅读

长上下文大模型 API:支持 1M token 窗口的模型

GetVibe API 上所有上下文窗口约为一百万 token 的模型:最大输出、图像输入、JSON 模式和实时美元价格,以及如何用好长窗口。

长上下文大模型 API:支持 1M token 窗口的模型

约一百万 token 的上下文窗口,一次请求就能装下一个中等规模的代码库、一批合同或几个月的聊天记录。GetVibe API 上有多款模型提供这种规模的窗口,既有旗舰模型,也有低价的 flash 模型。它们都通过同一个 OpenAI 兼容端点和同一个密钥调用。

模型列表

上下文和输出上限来自我们的目录(https://getvibeapi.com/api/catalog 中的 caps.contextWindow),价格为实时价格。

模型上下文最大输出图像JSON 模式价格
Claude Opus 5.51,000,000128,000支持支持$0.1974 输入 · $0.9867 输出 每百万 token
Claude Sonnet 51,000,00064,000支持支持$0.3334 输入 · $1.6667 输出 每百万 token
GPT-5.6 Sol1,050,000128,000支持支持$0.0667 输入 · $0.40 输出 每百万 token
Gemini 3.1 Pro1,000,00065,000支持支持$0.2515 输入 · $1.5086 输出 每百万 token
Gemini 3.8 Flash1,000,00065,000支持不支持$0.0097 输入 · $0.0483 输出 每百万 token
DeepSeek V4.1 Flash1,000,000393,216支持支持$0.0112 输入 · $0.0445 输出 每百万 token
GLM-5.31,048,000128,000不支持不支持$0.10 输入 · $0.3143 输出 每百万 token
GLM-5.3 Flash1,048,000128,000支持不支持$0.0112 输入 · $0.0371 输出 每百万 token

目录中还有其他 1M 级别的模型,包括较早版本的 Claude Opus 和 Gemini 3.7 Flash。模型页面列出了完整清单,并支持排序。

标称值与实测值

上表中的大多数数字是模型开发商标称的窗口。对 Claude Opus 5.5,我们在发布前还做了实测:一个 732,379 token 的请求,回答同时引用了提示开头和结尾的细节;超过 1,000,000 token 的请求则在模型上限处被拒绝。其他模型如果你打算在接近上限的规模使用,请用自己的数据测试。

如何用好长窗口

  • 问题放在材料之后。先发送文档,最后给出指令,让模型在读到任务时所有内容都已在上下文中。
  • 标明边界。用清晰的分隔符包住每个文件或文档,并写上名称,方便模型指出答案出自哪里。
  • 检查两端。评估模型的长输入能力时,在同一个提示中分别询问靠近开头和靠近结尾的细节。
  • 给回答留出空间。输入和输出共享同一个窗口,把窗口塞满的提示就没有空间留给回答了。

成本:每个输入 token 都计费

一次完整的 1M token 请求要为每个输入 token 付费,所以长上下文是调用模型最贵的方式。有两种办法控制成本:

  • 提示缓存。如果要对同一份材料提多个问题,就让它保持为不变的前缀。缓存输入按输入价格的一小部分计费。见提示缓存指南。
  • 按任务选档次。在大量输入中做检索和提取,带 1M 窗口的 flash 模型可能就够了。旗舰模型留给需要跨材料推理的任务。
from openai import OpenAI

client = OpenAI(base_url="https://getvibeapi.com/v1", api_key="sk-pv-...")
corpus = open("all_docs.txt").read()

resp = client.chat.completions.create(
    model="deepseek-v4.1-flash",
    messages=[
        {"role": "system", "content": "Answer only from the documents provided."},
        {"role": "user", "content": corpus + "\n\nQuestion: which contracts mention a termination fee?"},
    ],
)
print(resp.choices[0].message.content)

下一步

阅读 Claude Opus 5.5 1M 上下文文章,在模型页面比较模型,或从文档开始。

长上下文大模型 API1M token 上下文窗口百万 token 上下文模型长上下文 API 价格Claude 1M 上下文Gemini 1M 上下文

免费试用 GetVibe API

通过一个 OpenAI 兼容的 API 接入 GPT、Claude、Gemini 等模型,支持信用卡或加密货币支付。

相关文章

长上下文大模型 API:支持 1M token 窗口的模型 | GetVibe API