Structured output у GPT, Claude и Gemini: где строгая схема ломается

10 минут чтенияобновлено

Просьба «верни JSON» в промпте ничего не гарантирует, а строгая схема в параметрах запроса гарантирует только форму ответа. Её поддерживают OpenAI, Anthropic и Google, но каждый свой поднабор JSON Schema, и у всех есть два исключения: отказ модели и обрыв по лимиту токенов. Надёжная связка такая: схема в запросе, валидатор в коде, проверка причины остановки и заранее решённый путь для брака.

Три режима и что каждый обещает

Просьба в промпте — самый слабый режим. Модель учили отвечать человеку, поэтому JSON приходит в markdown-блоке с пометкой json, после фразы «Вот результат:», с плейсхолдером "<СУММА>" вместо числа или с полем, которого вы не просили. Для разового скрипта этого хватает, для продакшена нет.

JSON mode включается параметром response_format: {"type": "json_object"} и гарантирует синтаксис: ответ разберётся json.loads. Про содержимое он ничего не обещает. Поле может называться sum вместо amount, а число может прийти строкой. У OpenAI в сообщениях обязательно должно быть слово «JSON», иначе API вернёт ошибку. Без явной инструкции модель может до лимита токенов слать пробелы (OpenAI).

Многоступенчатая воронка, показывающая четыре уровня защиты от ошибок генерации от промпта до валидации.
Каждый следующий уровень отсеивает ошибки, которые пропустил предыдущий.

Строгая схема (structured output) — режим, в котором вы передаёте JSON Schema с strict: true, а сервис не выпускает ответ, который ей не соответствует. OpenAI формулирует разницу так: оба режима дают валидный JSON, но соответствие схеме гарантирует только structured output. Там же компания советует по возможности использовать его вместо JSON mode.

Сравнение двух колонок, где строгая схема контролирует больше параметров, чем обычный JSON-режим.
Базовый режим спасает от сломанного синтаксиса, но только строгая схема гарантирует нужные поля.

Строгая схема у трёх вендоров: одно название, разные правила

Схема, которая проходит у одного вендора, у другого может дать 400 или молча потерять ограничение. Сравнение по документации на 29.10.2026:

OpenAIAnthropicGoogle Gemini
Как включитьresponse_format с json_schema и strict: true; в Responses API — text.formatoutput_config.format или strict: true у инструментасхема в response_format с типом application/json
Необязательные полявсе поля в required, необязательность через ["string", "null"]не больше 24 необязательных параметров на запрособычный required
minimum, maximumподдерживаютсяне поддерживаются, 400поддерживаются
minLength, maxLengthв списке поддерживаемых нетне поддерживаются, 400сервер молча вырезает
Неподдерживаемое словоошибка запроса: allOf, not, if/then/else400 с описаниемслишком сложная схема — 400
Первый запрос с новой схемоймедленнее, дальше без задержкикомпиляция грамматики, кэш на 24 часане описано

Источники: OpenAI, Anthropic, Google.

Из таблицы следует практическое правило. Поле "minimum": 0 пройдёт у OpenAI и Gemini, а у Anthropic вернёт 400. "maxLength": 100 у Gemini исчезнет без предупреждения, и модель вернёт строку длиннее. Google прямо пишет в документации, что гарантирует синтаксически корректный JSON, а не правильность значений, и советует проверять их в приложении. Поэтому в схеме держите форму: типы, enum, required, additionalProperties: false. Границы чисел и длин проверяйте в своём коде.

Схема в запросе: GPT и Gemini

Через наш API response_format работает у моделей GPT и Gemini (документация). Возьмём разбор расходов из текста: категория, сумма, валюта и продавец, которого может не быть.

Python
import json
import os

from openai import OpenAI

client = OpenAI(base_url="https://api.altrouter.ai/v1", api_key=os.environ["ALTROUTER_API_KEY"])

EXPENSE_SCHEMA = {
    "type": "object",
    "properties": {
        "category": {"type": "string", "enum": ["еда", "транспорт", "жильё", "прочее"]},
        "amount": {"type": "number"},
        "currency": {"type": "string", "enum": ["RUB", "USD", "EUR"]},
        "merchant": {"type": ["string", "null"]},
    },
    "required": ["category", "amount", "currency", "merchant"],
    "additionalProperties": False,
}


class BadAnswer(Exception):
    """Ответ нельзя разбирать: обрыв, отказ или текст вместо вызова."""


def ask_json(model: str, text: str) -> str:
    resp = client.chat.completions.create(
        model=model,
        reasoning_effort="low",
        max_completion_tokens=2000,
        messages=[
            {"role": "system", "content": "Извлеки расход из текста. Если продавец не назван, верни null."},
            {"role": "user", "content": text},
        ],
        response_format={
            "type": "json_schema",
            "json_schema": {"name": "expense", "strict": True, "schema": EXPENSE_SCHEMA},
        },
    )
    choice = resp.choices[0]
    if choice.finish_reason != "stop":  # length или content_filter: JSON может быть неполным
        raise BadAnswer(choice.finish_reason)
    if getattr(choice.message, "refusal", None):
        raise BadAnswer("refusal")
    return choice.message.content


print(json.loads(ask_json("gpt-6-luna", "Такси до аэропорта, 1450 рублей")))

Основной выигрыш даёт enum. Свободная строка в поле категории через полгода оборачивается разными написаниями одного и того же: «Транспорт», «транспортные расходы», «taxi». additionalProperties: false не даёт модели дописать поля от себя, а merchant с типом ["string", "null"] остаётся в required: так строгий режим OpenAI выражает необязательное поле.

max_completion_tokens — потолок длины ответа — задавайте явно и с запасом. gpt-6-luna и gemini-3.8-flash рассуждают перед ответом, и черновик тратит тот же лимит. Если потолок кончится раньше, придёт finish_reason: "length" и обрезанный JSON.

Claude: та же схема через инструмент

У самой Anthropic строгий JSON-ответ есть: параметр output_config.format вышел из беты, заголовок для него больше не нужен. Через наш OpenAI-совместимый API response_format у моделей Claude не поддерживается, и документация предлагает другой путь: инструмент с одной функцией, у которой параметры совпадают со схемой. Модель «вызывает» функцию, а аргументы вызова и есть ваш JSON. Подробно механику инструментов мы разбирали в статье про tool calling.

Здесь есть ловушка. Принудительный вызов инструмента у Anthropic называется tool_choice со значением any или tool, в OpenAI-формате ему соответствуют required и выбор функции по имени. По документации Anthropic Claude Opus 5.5, Sonnet 5.5 и Fable 5.1 отвечают на него ошибкой 400. Haiku 5.5 принудительный вызов принимает, но пропускает при этом рассуждения. Для старших моделей оставляйте auto, просите вызвать функцию в промпте и проверяйте, что вызов пришёл:

Python
EXPENSE_TOOL = {
    "type": "function",
    "function": {
        "name": "save_expense",
        "description": "Сохраняет один расход, извлечённый из сообщения пользователя. Вызывай ровно один раз.",
        "parameters": EXPENSE_SCHEMA,
    },
}


def ask_json_claude(model: str, text: str) -> str:
    # Haiku 5.5 принимает принудительный вызов, Sonnet 5.5 и Opus 5.5 отвечают на него 400.
    forced = model == "claude-haiku-5.5"
    resp = client.chat.completions.create(
        model=model,
        max_tokens=1024,
        messages=[
            {"role": "system", "content": "Извлеки расход и вызови save_expense. Текстом не отвечай."},
            {"role": "user", "content": text},
        ],
        tools=[EXPENSE_TOOL],
        tool_choice={"type": "function", "function": {"name": "save_expense"}} if forced else "auto",
    )
    calls = resp.choices[0].message.tool_calls
    if not calls:
        raise BadAnswer("модель ответила текстом, а не вызовом")
    return calls[0].function.arguments

У инструментов своя цена. С каждым таким запросом Anthropic добавляет служебный системный промпт: у Haiku 5.5 это 286 токенов при auto и 406 при принудительном вызове, плюс токены самого описания функции (Anthropic). Сколько входных токенов насчитано в итоге, видно в usage.prompt_tokens.

Чего схема не проверяет

Строгий режим проверяет типы и имена полей, а смысл значений проверяете вы. Сумма 0 или -1450 проходит как число, дата из будущего проходит как строка. Валидатор в коде нужен при любом режиме: он ловит бессмысленные значения, ответы моделей без строгого режима и изменение формата после обновления модели, о котором вы иначе узнаете от пользователей.

Python
from typing import Literal

from pydantic import BaseModel, ConfigDict, Field


class Expense(BaseModel):
    model_config = ConfigDict(extra="forbid")

    category: Literal["еда", "транспорт", "жильё", "прочее"]
    amount: float = Field(gt=0, lt=10_000_000)
    currency: Literal["RUB", "USD", "EUR"]
    merchant: str | None

Схема в запросе и модель Pydantic описывают одно и то же с разной строгостью, и это нормально. Первая держит форму на стороне вендора и обязана укладываться в его поднабор JSON Schema. Вторая хранит бизнес-правила, которые не каждый вендор принимает в схеме.

🔴 Отказ и обрыв ломают гарантию схемы. У OpenAI отказ приходит в поле refusal. У Anthropic ответ с stop_reason: "refusal" приходит со статусом 200, токены оплачиваются, а вывод может не совпасть со схемой. При обрыве по лимиту токенов (finish_reason: "length" или stop_reason: "max_tokens") JSON может оказаться неполным (Anthropic). Такой ответ не разбирайте и не сохраняйте: запись с половиной полей в базе обходится дороже повторного запроса.

Что делать с браком и сколько это стоит

Для ответа, который не прошёл проверку, рабочих путей два. Можно повторить запрос, добавив в сообщения текст ошибки валидатора. Можно отправить случай на модель посильнее. Второй путь проще встроить в конвейер:

Python
import logging

from pydantic import ValidationError

log = logging.getLogger(__name__)


def extract(text: str) -> Expense | None:
    for model in ("gpt-6-luna", "gpt-6.1-sol"):
        try:
            return Expense.model_validate_json(ask_json(model, text))
        except (BadAnswer, ValidationError) as err:
            log.warning("%s: брак, %s", model, err)
    return None  # в очередь на ручной разбор

Посчитаем на потоке в 50 000 чеков в месяц: 300 входных токенов вместе со схемой и 60 выходных на чек. Формула: 50 000 × (300 × цена входа + 60 × цена выхода) / 1 000 000. Цены наши, из каталога на 27.10.2026.

СхемаРасчётВ месяц
Всё на gpt-6.1-sol15 000 × 1,70 + 3 000 × 8,50$51,00
Всё на gemini-3.8-flash15 000 × 0,637 + 3 000 × 3,187$19,12
Всё на gpt-6-luna15 000 × 0,10 + 3 000 × 0,50$3,00
gpt-6-luna, 3% брака уходит на gpt-6.1-sol3,00 + 0,03 × 51,00$4,53
gpt-6-luna, 10% брака уходит на gpt-6.1-sol3,00 + 0,10 × 51,00$8,10

gpt-6-luna у нас стоит как у OpenAI, $0,10 / $0,50 за миллион токенов (OpenAI). gpt-6.1-sol и gemini-3.8-flash на 15% ниже официальных цен OpenAI и Google. Доли брака в 3% и 10% — допущения, а не замер: свою долю узнаете, прогнав сотню реальных текстов через валидатор. Даже при 10% брака каскад обходится в шесть раз дешевле, чем всё на старшей модели.

Столбчатая диаграмма, сравнивающая стоимость чистого флагмана, легкой модели и гибридного подхода.
Дешевая модель с локальной валидацией и перевызовом флагмана экономит половину бюджета.

Расчёт — нижняя граница. Все три модели рассуждают, а черновик оплачивается по цене выхода. В нашем разборе счетов одна модель при 147 видимых токенах ответа написала 4408 скрытых. Сколько стоил конкретный запрос, показывает usage.cost в ответе. У Claude Haiku 5.5 токен дешевле, чем у gpt-6-luna, но через принудительный инструмент к каждому запросу добавляются 406 служебных токенов. Если они попадают в счёт так же, как у Anthropic напрямую, формула даёт 50 000 × (706 × 0,085 + 60 × 0,425) / 1 000 000 = $4,28, дороже gpt-6-luna. Как раздавать задачи моделям по цене в коде, мы разбирали в статье про маршрутизацию.

FAQ

Можно ли получать структурированный ответ стримом?

Можно. Anthropic стримит такие ответы как обычные, у Gemini куски потока — части JSON-строки, которые склеиваются в итоговый объект. Разбирайте JSON только после конца потока и после проверки причины остановки: промежуточный кусок почти всегда невалиден.

Подробнее: Anthropic API: модели и цены.

Почему первый запрос со схемой отвечает дольше?

Вендор готовит схему к работе. У OpenAI первый запрос с новой схемой идёт с дополнительной задержкой, у Anthropic компилируется грамматика, которая хранится в кэше 24 часа с последнего использования. Смена name или description кэш у Anthropic не сбрасывает, а смена структуры сбрасывает. Поэтому не собирайте схему заново на каждый запрос, например подставляя в enum свежий список из базы.

Подробнее: Anthropic API: модели и цены.

Как сделать поле необязательным в строгом режиме?

У OpenAI все поля должны быть в required, а необязательность выражается типом с null, например ["string", "null"]. У Anthropic необязательные параметры разрешены, но не больше 24 на запрос по всем строгим схемам вместе. В Pydantic этому соответствует поле str | None без значения по умолчанию: ключ обязателен, значение может быть пустым.

Подробнее: Anthropic API: модели и цены.