Модели

Что такое каталог

Каталог — это список моделей, которые платформа готова маршрутизировать прямо сейчас. Он не написан в документации и не поддерживается руками: страница ниже читает его у шлюза, как читал бы ваш код.

curl https://api.kumorouter.com/v1/models

Ответ — список в форме OpenAI: object: "list" и массив data, в котором каждый элемент — object: "model". Читать его можно без ключа.

В список попадает не всё, что заведено в платформе, а только то, что можно вызвать: модель активна и у неё есть хотя бы одна включённая возможность в опубликованной конфигурации поставщиков. Протоколы и модальности модели — это пересечение того, что объявлено в каталоге, и того, что подтверждено настоящим доступом к поставщику. Поэтому список меняется сам, когда канал поставщика убирают или добавляют.

{
  "object": "model",
  "canonical_name": "<model>",
  "aliases": ["<alias>"],
  "vendor": { "code": "<vendor>" },
  "protocol_codes": ["chat_completions"],
  "modality_codes": ["text_generation"],
  "capabilities": [
    {
      "protocol_code": "chat_completions",
      "modality_code": "text_generation",
      "streaming_status": "proven",
      "tools_status": "unproven",
      "structured_output_mode": "json_schema"
    }
  ]
}

Каталог

Все модели площадки — одной таблицей, строка на модель. Строка целиком открывает страницу модели; единственное исключение — чип у идентификатора, он кладёт имя в буфер обмена и никуда не ведёт.

Над таблицей — отбор. Поиск ищет по названию, каноническому имени и производителю. Дальше четыре ряда, и каждый отбирает по своему признаку: производитель, тип, протокол и контекст «не меньше чем». Ряды складываются: выбрав тип и протокол, вы просите модель, которая умеет и то и другое. Повторное нажатие на выбранную фишку снимает её, а «Сбросить отбор» возвращает все ряды разом. Счётчик под ними говорит, сколько строк осталось от скольких.

Заголовок столбца сортирует таблицу: первое нажатие — по возрастанию, второе — по убыванию. Модель, для которой площадка ничего не опубликовала в этом столбце, уходит вниз в обе стороны: прочерк — это «не опубликовано», а не «ноль».

Цифры в таблице не написаны в этой статье. Состав моделей и всё, кроме денег, платформа отдаёт живым каталогом, ставки — опубликованным прайсом; страница читает оба документа при каждом открытии. Поэтому модель, которую оператор добавил или убрал, появляется и исчезает здесь сама. Если прайс сейчас не читается, список моделей остаётся на месте, а на месте ставок стоят прочерки.

Как назвать модель

В запросе модель называют строкой в поле model. Подходит и каноническое имя, и любой псевдоним, который ведёт к той же модели.

• Каноническое имя у модели одно, и оно принадлежит только ей.
• Псевдоним — второе имя той же модели. В любой момент времени псевдоним ведёт ровно к одной модели; со временем его могут перенаправить, и это и есть его смысл: код, названный псевдонимом, переезжает вместе с ним.
• Имена канонические и имена-псевдонимы живут в одном пространстве: одна и та же строка не может быть и тем и другим и не может принадлежать двум моделям.

Имя, которому не отвечает ни одна живая модель, отвергается сразу — платформа честно говорит, что такой модели у неё нет, вместо того чтобы гадать.

Что помнит платформа о ключе →

Как читать возможности

У модели возможности объявлены не «вообще», а на каждую пару из протокола и модальности. Одна и та же модель может уметь по одному протоколу больше, чем по другому.

Протоколы

Модальности

Модальность — это вид работы, а не форма запроса: text_generation, embeddings, image_generation. Протокол говорит, как вы обращаетесь; модальность — что вы получаете. Область ключа ограничивает именно модальности, поэтому пара из них решает, доступен ли вызов.

Три состояния

Каждая возможность — стриминг, инструменты, структурированный вывод, строгие семантики, стриминг структурированного вывода — стоит в одном из трёх состояний.

Разница между «не подтверждено» и «не поддерживается» — в том, откуда она берётся, а не в том, что вы увидите: обе отклоняются одинаково и одинаково рано. Отказ приходит без обращения к поставщику и не меняется от повтора того же запроса — если возможность нужна, выбирайте модель, у которой она подтверждена.

У структурированного вывода есть ещё и режим: json_object (ответ обязан быть объектом JSON) или json_schema (ответ обязан соответствовать вашей схеме); none означает, что режима нет вовсе.

Как задаётся схема ответа → Инструменты →

Страница модели

У каждой модели каталога есть своя страница по адресу /models/<каноническое имя>. На ней собрано то, что обычно приходится складывать из нескольких источников:

• цифры: окно контекста, потолок вывода и дата выпуска;
• быстрый старт с уже подставленным идентификатором этой модели — код можно копировать как есть;
• матрица возможностей по каждому протоколу: что подтверждено, что нет;
• цены кошелька по измерениям;
• переходы на страницы интеграций с выбранной моделью.

Таблица каталога выше ведёт на эти страницы, и поиск по документации их индексирует.

Как выбрать модель

Каталог отвечает на вопрос «что доступно», а выбирать приходится вам. Порядок, который экономит время:

1. 1Отсеките по протоколуОставьте те модели, которые говорят на протоколе вашего клиента. Менять клиент дороже, чем менять модель.
2. 2Проверьте возможностиЕсли вам нужны инструменты, стриминг или строгая схема ответа, возможность должна быть подтверждена, а не просто упомянута.
3. 3Сравните объёмыОкно контекста решает, сколько вы можете подать, потолок вывода — сколько получить. Это две независимые цифры.
4. 4Посчитайте ценуСтавки публикуются за миллион токенов отдельно на вход и на выход; сравнивать модели по одному числу нельзя.
5. 5Проверьте измеренную производительностьВ карточке модели показаны задержка запроса, скорость генерации и доступность за последние 24 часа. Отсутствие измерений не означает нулевую задержку или идеальную доступность.
6. 6Учтите дату выпускаЭто день, когда модель выпустил её создатель, и он говорит о поколении модели, а не о том, когда её завели здесь.

Первый вызов → Лимиты →