Безопасный аудит согласованности модели и API

Проверка модели по API: признаки подмены LLM

Проверьте, насколько поведение OpenAI-совместимого API согласуется с заявленной моделью. Сервис запускает безопасные синтетические пробы, измеряет контекст, tool calls, streaming, метаданные и задержку. Результат — не криптографическое доказательство и не обвинение провайдера.

Используйте временный ключ с минимальными правами и лимитом. Ключ отправляется только на указанный вами endpoint и не сохраняется PlusVibe.

Только публичный HTTPS endpoint на порту 443, без query и fragment. IDN-домены не принимаются.

Параметры аудита

Ровно 3 раунда; максимум 20 последовательных запросов, 60 секунд и $0.03.

Ключ будет отправлен только на hostname: укажите допустимый ASCII hostname. Используйте временный ключ с минимальными правами и квотой. PlusVibe не сохраняет ключ, синтетические запросы или сырые ответы.

Live-аудит доступен после входа и ограничен часовым, суточным и стоимостным бюджетом.

Что проверяет аудит модели

Проверка сравнивает наблюдаемое поведение endpoint с документированными возможностями и доступным контрольным профилем. Ни самоидентификация модели, ни поле model, ни скорость ответа не считаются доказательством. Вес получают только повторяемые сигналы из независимых групп. Сетевые ошибки, неподдерживаемые функции и недостаточный бюджет уменьшают покрытие, а не автоматически ухудшают оценку.

Возможности и следование инструкциям

Небольшие детерминированные задачи повторяются в трёх раундах. Безопасный конфликт инструкций использует только безвредные nonce и форматы.

Контекст и canary-маркеры

Случайные несекретные маркеры размещаются в консервативных token-aware tiers. Отдельно отмечаются принятие, отклонение, возможная обрезка, пропуск маркера и таймаут.

Tool calls и JSON Schema

Фиктивная функция проверяет имя, обязательные поля, типы, enum и запрет лишних свойств. Полученный tool call валидируется, но никогда не исполняется.

Streaming, метаданные и задержка

SSE framing, завершение потока и сборка delta помогают диагностировать совместимость транспорта. model, /models и latency показываются как слабые или операционные признаки.

Как проходит безопасная проверка

Проверка endpoint

Разрешены только публичные HTTPS-адреса на порту 443. DNS-адрес проверяется и закрепляется для соединения; redirect, приватные, link-local, reserved и metadata-сети блокируются.

Синтетические запросы без пользовательских данных

Сервис не просит раскрывать системный промпт, не запускает jailbreak-сценарии и не выполняет полученные tool calls. Пользовательские промпты и документы не нужны.

Сводный отчёт и повторяемость

Запросы, время, байты и бюджет ограничены. Отчёт показывает агрегированные статусы, длительность проб и достаточность данных без сырых ответов и upstream errors.

Как читать результат

Сигналы и четыре состояния отчёта

Отчёт использует формулировки «Сигналы согласуются», «Смешанные сигналы», «Сигналы не согласуются» и «Недостаточно данных». Один слабый признак, таймаут или неподдерживаемая функция не могут дать вывод о несогласованности.

Чем score отличается от достаточности данных

Consistency score агрегирует только оценённые сигналы. Достаточность данных отдельно учитывает покрытие, повторяемость, качество baseline и число независимых групп. Ни одна метрика не является вероятностью подлинности.

Ограничения метода и причины ложных срабатываний

Gateway может менять aliases, параметры, ограничения контекста, tool semantics, метаданные и streaming. На результат также влияют системные обёртки, safety middleware, tokenizer, квантование, fine-tune, нагрузка, география, cold start и buffering.

Без аппаратной или криптографической аттестации инфраструктуры inference невозможно подтвердить конкретные веса или checkpoint. Отчёт показывает согласованность доступных сигналов и помогает найти несоответствия, но не выносит юридический или криптографический вердикт.

Безопасность ключа и приватность

API-ключ остаётся в памяти текущего запроса, не возвращается в отчёте и не записывается в базу, логи или аналитику. Не сохраняются URL, model string, промпты, ответы, заголовки и сырые ошибки. Минимальный технический журнал содержит только дневной псевдоним, агрегированные статусы и ресурсы и удаляется по сроку хранения.

Частые вопросы

Можно ли точно доказать, какая модель отвечает?+

Нет. Без аттестации inference-сервера нельзя криптографически подтвердить конкретные веса модели. Отчёт оценивает согласованность нескольких наблюдаемых сигналов.

Какие API поддерживаются?+

OpenAI-совместимые HTTPS endpoint для chat completions. Поддержку tools, streaming и /models сервис проверяет только там, где endpoint заявляет эти возможности.

Сохраняется ли API-ключ?+

Нет. Ключ используется только во время проверки для запросов к выбранному hostname и не записывается в базу, логи, аналитику или отчёт.

Сохраняются ли промпты и ответы?+

Нет. Проверка использует синтетические запросы без пользовательских данных; сырые запросы, ответы и upstream errors не сохраняются.

Почему результат бывает «Недостаточно данных»?+

Причиной могут быть таймауты, ограниченный бюджет, неподдерживаемые функции, малое число повторов или отсутствие качественного контрольного профиля.

Может ли proxy скрыть подмену?+

Да. Relay способен переписать model, метаданные и формат событий. Поэтому эти признаки имеют малый вес, а абсолютная гарантия не обещается.

Зачем измерять задержку?+

Чтобы показать стабильность endpoint и диагностировать buffering, cold start или перегрузку. Скорость сама по себе не определяет семейство модели.

Используются ли jailbreak-тесты?+

Нет. Сервис применяет только безопасные синтетические проверки и не пытается извлекать системные инструкции или обходить защиту.