РоманММ
Настраиваю бизнесы на результат · Москва
Разбор

Сервис подсчёта расхода токенов в команде

Не понятно на какие задачи и проекты улетают лимиты. Команда одновременно работает через несколько AI-провайдеров на нескольких серверах. Без единого места траты токенов на человека были не видны, бюджет утекал незаметно.

Результат

За 14 дней одна из команд потратила 5,1 млрд токенов Claude, около 3589$ (если считать по API-тарифам), 572 млн токенов Codex за один день, 854 долларов. Получили разбивку по сотруднику, серверу, модели и даже конкретной задаче: видно, кто и на что тратит бюджет, а не только общую цифру.

Claude CodeChatGPTсобрано за вечер · сам по себе · ✓ проверено клубом

Сначала смотрел в сторону готовых опенсурс решений, но в итоге сделали самостоятельно под себя. Колонка «стоимость» это оценка по публичным API-тарифам, а не реальный биллинг подписки (Codex через ChatGPT-подписку списывает лимит, а не токены напрямую; Claude Code отдельная подписка). Отдельно считается cache read, потому что это дешёвая часть трат, а не полноценная генерация, иначе цифра расхода выглядела бы пугающе, но не отражала реальность. Можно провалиться из сводки по пользователю в список его сессий и увидеть, на какую конкретно задачу ушли токены. Теперь стало лучше понятно кто в команде красавчик и лимиты стали под контролем.

389

Это пост из ленты клуба СмыслоКод. Внутри - выпуски со связками, готовые промпты и шаблоны, живые встречи каждую неделю.

Без карты · вход за 30 секунд
Смотреть ленту клуба

Ещё в клубе