Кэширование промпта
Кэширование промпта для поддерживающих моделей: повторный префикс читается из кэша заметно дешевле полного ввода. Для Claude — точки cache_control; шлюз проставляет их автоматически и на /v1/messages, и на /v1/chat/completions. Примеры на curl.
Кэширование промпта экономит на повторяющемся начале запроса (system-инструкция, история, описания инструментов). Для поддерживающих моделей повторный префикс читается из кэша заметно дешевле обычного ввода — порядка десятков процентов от полной цены. Поддержка кэша у каждого варианта отмечена на странице Модели.
OpenAI-совместимый путь
На /v1/chat/completions у моделей семейства OpenAI кэш работает автоматически: одинаковый стабильный префикс при повторных запросах читается из кэша. Специальных полей не нужно — главное не менять начало запроса. Поэтому тело передаётся на эндпоинт байт в байт, без переупорядочивания полей.
Claude: cache_control
Claude устроен иначе: он кэширует только при наличии явных точек cache_control в теле — само по себе повторение префикса кэш не включает. Поставьте такую точку на конец неизменной части (system или последний блок):
curl https://plusvibeapi.ru/v1/messages \
-H "x-api-key: $PLUSVIBE_API_KEY" \
-H "anthropic-version: 2023-06-01" \
-H "Content-Type: application/json" \
-d '{
"model": "claude-opus-4.8",
"max_tokens": 256,
"system": [
{
"type": "text",
"text": "Большая неизменная инструкция, которую выгодно кэшировать…",
"cache_control": { "type": "ephemeral" }
}
],
"messages": [{"role": "user", "content": "Вопрос по инструкции"}]
}'/v1/messages, и на /v1/chat/completions. Если вы управляете кэшем сами, ваша разметка остаётся как есть.Агенты на Claude: есть нативный эндпоинт
Для Claude мы поддерживаем родной формат Anthropic — /v1/messages с заголовком x-api-key. Это то, чем пользуются Claude Code и Anthropic SDK: тело уходит наверх как есть, без перевода из формата OpenAI, а значит и точки кэширования, и поля cache_creation / cache_read в ответе доходят без потерь.
Это не обещание, а замер: 21 августа 2026 года агентская сессия на claude-opus-5 через /v1/messages — 119 запросов, 15 млн входных токенов — прочитала из кэша 91,6% ввода. Сколько кэша вы реально получили, всегда видно в usage ответа и в статистике запросов в кабинете.