Buff Development
Автономная разработка

Метрики и токены

Расход модели и объём работы по каждому прогону.

По каждой задаче (а также исследованию и аудиту) видны метрики: сколько сделано, во сколько это обошлось и сколько заняло — без «чёрной коробки».

Плитки в карточке задачи

Под полосой этапов стоят четыре плитки. У каждой — число и строка, объясняющая, из чего оно сложилось:

  • Изменения — сколько файлов затронуто и на сколько строк, +добавлено −удалено. Плитка открывает пофайловый список.
  • Стоимость — списано по завершённым подзадачам, в рублях по вашему тарифу.
  • Токены — сколько израсходовала модель, с разбивкой на вход и выход.
  • Время — сколько прошло от заявки до ревью (или до влития), а у идущего прогона — сколько он уже работает.
Метрики задачи — под полосой этапов

Как считаются токены

Модель тарифицируется по двум величинам, и обе показываются целиком:

  • вход — всё, что модель прочитала: сам запрос и попадания в кэш (кэш дешевле, но это по-прежнему входные токены);
  • выход — всё, что модель написала: ответ и рассуждения.

Поэтому «вход + выход» и есть общее число в плитке «Токены». Разбивку — сколько из входа пришлось на кэш и сколько из выхода на рассуждения — показывает подсказка при наведении.

Крупные значения сокращаются: 31,3 млн, 609 тыс., 12 тыс. — так число читается с одного взгляда.

Те же две величины и в других местах, где есть счётчик токенов: в шапке диалога «Спросить», в исследовании и в разделе аудита. Одна и та же работа всюду считается одинаково.

On this page