Метрики и токены
Расход модели и объём работы по каждому прогону.
По каждой задаче (а также исследованию и аудиту) видны метрики: сколько сделано, во сколько это обошлось и сколько заняло — без «чёрной коробки».
Плитки в карточке задачи
Под полосой этапов стоят четыре плитки. У каждой — число и строка, объясняющая, из чего оно сложилось:
- Изменения — сколько файлов затронуто и на сколько строк,
+добавлено −удалено. Плитка открывает пофайловый список. - Стоимость — списано по завершённым подзадачам, в рублях по вашему тарифу.
- Токены — сколько израсходовала модель, с разбивкой на вход и выход.
- Время — сколько прошло от заявки до ревью (или до влития), а у идущего прогона — сколько он уже работает.
Как считаются токены
Модель тарифицируется по двум величинам, и обе показываются целиком:
- вход — всё, что модель прочитала: сам запрос и попадания в кэш (кэш дешевле, но это по-прежнему входные токены);
- выход — всё, что модель написала: ответ и рассуждения.
Поэтому «вход + выход» и есть общее число в плитке «Токены». Разбивку — сколько из входа пришлось на кэш и сколько из выхода на рассуждения — показывает подсказка при наведении.
Крупные значения сокращаются: 31,3 млн, 609 тыс., 12 тыс. — так число читается с одного взгляда.
Те же две величины и в других местах, где есть счётчик токенов: в шапке диалога «Спросить», в исследовании и в разделе аудита. Одна и та же работа всюду считается одинаково.