Тема
Язык
·2 мин. чтения

LLM API с длинным контекстом: модели с окном 1M токенов

Каждая модель в GetVibe API с контекстным окном примерно в миллион токенов: максимальный объём вывода, ввод изображений, режим JSON и актуальные цены в USD, а также инструкции по использованию длинного контекста.

LLM API с длинным контекстом: модели с окном 1M токенов

Контекстное окно размером около одного миллиона токенов вмещает кодовую базу среднего размера, набор контрактов или историю чатов за несколько месяцев в одном запросе. Несколько моделей в GetVibe API предлагают окно такого размера: от флагманских до недорогих flash-моделей. Все они работают через одну OpenAI-совместимую конечную точку и с одним ключом.

Список

Ограничения контекста и вывода взяты из нашего каталога (caps.contextWindow в https://getvibeapi.com/api/catalog). Цены обновляются в реальном времени.

МодельКонтекстМаксимальный выводИзображенияРежим JSONЦена
Claude Opus 5.51,000,000128,000дада$0.1974 вход · $0.9867 выход за 1 млн токенов
Claude Sonnet 51,000,00064,000дада$0.3334 вход · $1.6667 выход за 1 млн токенов
GPT-5.6 Sol1,050,000128,000дада$0.0667 вход · $0.40 выход за 1 млн токенов
Gemini 3.1 Pro1,000,00065,000дада$0.2515 вход · $1.5086 выход за 1 млн токенов
Gemini 3.8 Flash1,000,00065,000данет$0.0097 вход · $0.0483 выход за 1 млн токенов
DeepSeek V4.1 Flash1,000,000393,216дада$0.0112 вход · $0.0445 выход за 1 млн токенов
GLM-5.31,048,000128,000нетнет$0.10 вход · $0.3143 выход за 1 млн токенов
GLM-5.3 Flash1,048,000128,000данет$0.0112 вход · $0.0371 выход за 1 млн токенов

В каталоге также есть другие модели класса 1M, включая более старые версии Claude Opus и Gemini 3.7 Flash. На странице моделей представлен полный список с возможностью сортировки.

Заявленные и измеренные значения

Большинство приведённых выше значений — это размер окна, заявленный разработчиком модели. Для Claude Opus 5.5 мы также провели измерение перед публикацией: на запрос размером 732,379 токенов модель ответила, приведя сведения из начала и конца промпта, а запрос размером более 1,000,000 токенов был отклонён из-за ограничения модели. Для остальных моделей протестируйте собственные данные, если планируете работать близко к пределу.

Как эффективно использовать длинное окно

  • Размещайте вопрос после материалов. Сначала отправляйте документы, а инструкцию размещайте в конце, чтобы модель видела задачу, когда весь контекст уже загружен.
  • Обозначайте границы. Заключайте каждый файл или документ в ясные разделители с его названием. Это помогает модели указывать, откуда взят ответ.
  • Проверяйте оба конца. Оценивая модель на длинных входных данных, задайте вопрос о детали ближе к началу и о детали ближе к концу одного и того же промпта.
  • Оставляйте место для ответа. Входные данные и вывод используют одно окно, поэтому промпт, полностью заполняющий его, не оставит места для ответа.

Стоимость: оплачивается каждый входной токен

Полный запрос размером 1M токенов оплачивается за каждый входной токен, поэтому длинный контекст — самый дорогой способ обратиться к модели. Сдержать расходы помогают две вещи:

  • Кэширование промптов. Если вы задаёте несколько вопросов по одним и тем же материалам, оставляйте их неизменным префиксом. Кэшированные входные данные оплачиваются по доле от стандартной ставки для входных данных. См. руководство по кэшированию промптов.
  • Выбирайте уровень модели под задачу. Для поиска и извлечения данных из большого объёма входных данных может быть достаточно flash-модели с окном 1M. Флагманские модели лучше использовать для рассуждений по всему материалу.
from openai import OpenAI

client = OpenAI(base_url="https://getvibeapi.com/v1", api_key="sk-pv-...")
corpus = open("all_docs.txt").read()

resp = client.chat.completions.create(
    model="deepseek-v4.1-flash",
    messages=[
        {"role": "system", "content": "Отвечайте только на основе предоставленных документов."},
        {"role": "user", "content": corpus + "\n\nВопрос: в каких контрактах упоминается комиссия за расторжение?"},
    ],
)
print(resp.choices[0].message.content)

Следующие шаги

Прочитайте статью о контексте 1M в Claude Opus 5.5, сравните модели на странице моделей или начните с документации.

LLM API с длинным контекстомконтекстное окно 1M токеновмодель с контекстом в миллион токеновцены API с длинным контекстомконтекст Claude 1Mконтекст Gemini 1M

Попробуйте GetVibe API бесплатно

GPT, Claude, Gemini и другие модели через единый API, совместимый с OpenAI. Оплата в USD картой или криптовалютой.

Похожие статьи

LLM API с длинным контекстом: модели с окном 1M токенов | GetVibe API