Расход и логи
Потребление по окнам, разрезы по моделям, ключам и проектам, лог вызовов и то, как найти в нём один конкретный вызов.
Найдите один вызов
- Возьмите идентификатор из ответаОтвет каждой из двух сред несёт заголовок `X-Request-Id`.
- Откройте лог запросовНайдите вызов по времени, модели и ключу.
- Разверните строкуВ карточке вызова есть его идентификатор, токены и задержка.
Идентификатор всегда собственный: платформа не отражает обратно то, что прислали вы, поэтому значение из заголовка — настоящий ключ для поиска записи в журнале. Именно его и стоит приложить к обращению в поддержку.
Как выглядит отказ → Что писать в поддержку →
Активность
Экран активности показывает рассчитанное потребление за окно: точные количества токенов по дням, итоги за окно и — отдельной величиной — сколько вызовов ещё в работе и держат резерв. Резервы в итоги не входят никогда: пока вызов не рассчитан, его стоимость — оценка, а не факт.
Окон четыре: последние 24 часа, 7 дней, 30 дней и 90 дней. Это скользящие окна, а не календарные месяцы.
Сузить окно можно по трём осям — проект, ключ, модель. Первые две — это и правда сужение чтения: выбранные проекты разворачиваются в свои ключи, окно перечитывается по ним, и всё на экране — включая график по дням — становится только о них. Проект, в котором нет ни одного ключа, сузить ничего не может, и экран об этом говорит вместо того, чтобы показать пустоту.
Что считается
ТокеныПять измерений порознь: входные по полной ставке, входные из кеша, входные в кеш, выходные и единицы изображений.Списано кошелёкДоллары, списанные с кошелька. Ноль, если ничего не оплачивалось кошельком.ЗапросыРассчитанные вызовы за окно.Кешированные входные токены — отдельная величина, и в «полную» она не сворачивается никогда: это разные ставки, и сложение их скрыло бы ровно ту экономию, ради которой кеш и включают.
Расход печатается в двух единицах и в двух же остаётся: пакетные вызовы — в токенах пакета, кошельковые — в долларах, и график по дням рисует одну из них за раз. Это не неудобство интерфейса, а отсутствие курса между ними.
Разрезы — по моделям, по ключам и по проектам, самые крупные сверху.
Лог запросов
Лог — это неизменяемая история вызовов организации, новые сверху, с подтверждёнными количествами токенов и тем, чего вызов на самом деле стоил.
МодельИмя модели так, как его написал клиент, и метка исхода рядом.Токены стоимостьПромпт и ответ плюс стоимость — в той единице, в которой вызов был списан.КлючКлюч, которым вызов был допущен. У стёртого ключа имени больше нет, и клетка пустеет.ВремяМомент вызова и его задержка.Отказ вместо токенов и стоимости печатает свою причину.
Фильтр по исходу — «все», «отвеченные», «отказы». Отвеченные запрашиваются у платформы; отказы отбираются из уже загруженного, потому что у отказа шесть разных окончаний, а платформа принимает по одному.
Развёрнутая карточка вызова показывает девять полей: время, модель, ключ, токены промпта, токены промпта из кеша, токены ответа, задержку, стоимость и идентификатор вызова.
Чего в логе нет
Вызов записан формой, а не содержимым: ни промпта, ни ответа, ни заголовков, ни адреса клиента. Их не скрывают на экране — их не хранят вовсе, поэтому показывать там просто нечего.
Отсюда практическое следствие, которое стоит учесть заранее: восстановить по логу, что вы спросили, нельзя ни вам, ни поддержке. Если содержимое запросов важно для вашего разбора, писать его нужно у себя.