KAT-Coder-Air V2.5 vs Nemotron 3.5 Lightning (low)
Nemotron 3.5 Lightning (low) лидирует по среднему баллу: 4.8 vs 4.8. KAT-Coder-Air V2.5 имеет более низкую стоимость benchmark: $0.067 vs $0.173. KAT-Coder-Air V2.5 быстрее: 12.17s vs 59.45s, с долей успешных попыток 37.9% vs 42.4%.
Бенчмарки сгенерированы из тестовых наборов AI BENCHY в:
2026-08-11
Ранг
#229
Общее число выходных токенов
93,913
Время ответа (среднее)
12.17s
Общая стоимость
$0.067
Ранг
#225
Общее число выходных токенов
653,448
Время ответа (среднее)
59.45s
Общая стоимость
$0.173
Рекомендуемая модельKAT-Coder-Air V2.5
Его балл близок к лучшему здесь (4.8 против 4.8), при этом он примерно в 2.6 раза дешевле, чем Nemotron 3.5 Lightning (low).
10.0Оценка успеха с первой попытки: 10.0 означает отсутствие повторяемых сбоев целевого API или лимитов до успешных вызовов; зафиксированные сбои снижают оценку.…
9.8Оценка успеха с первой попытки: 10.0 означает отсутствие повторяемых сбоев целевого API или лимитов до успешных вызовов; зафиксированные сбои снижают оценку.…
Стабильность
6.9Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
6.8Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
Покрытие бенчмарка
22/22 тестов · 66/66 попыток
22/22 тестов · 66/66 попыток
Тестов верно
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 13Лишнее форматирование: 3Ошибка API: 1Время ответа (среднее)12.17sВремя ответа (макс.)121.05sВремя ответа (суммарно)267.83sТест считается полностью пройденным, только если все его прогоны успешны.…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 14Не соблюдены инструкции: 2Недопустимый вызов инструмента: 1Время ответа (среднее)59.45sВремя ответа (макс.)312.21sВремя ответа (суммарно)1307.87sТест считается полностью пройденным, только если все его прогоны успешны.…
Доля успешных попыток
37.9%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
42.4%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
Нестабильные тесты
8Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
9Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Всего запусков
66Всего запусков…
66Всего запусков…
Стоимость за результат
1.336Показывает среднюю стоимость одного правильного ответа в бенчмарке в центах (меньше — лучше).…
0.000Показывает среднюю стоимость одного правильного ответа в бенчмарке в центах (меньше — лучше).…
Общая стоимость
$0.067Общая стоимость (текущая цена)…
$0.173Общая стоимость (текущая цена)…
Цена входа
$0.150 / 1MЦена входа…
$0.100 / 1MЦена входа…
Цена выхода
$0.600 / 1MЦена выхода…
$0.250 / 1MЦена выхода…
Общее число входных токенов
69,367Общее число входных токенов…
138,783Общее число входных токенов…
Выходные токены
93,913Выходные токены…
137,292Выходные токены…
Токены рассуждений
0Токены рассуждений…
516,156Токены рассуждений…
Время ответа (среднее)
12.17sВремя ответа (среднее)…
59.45sВремя ответа (среднее)…
Время ответа (макс.)
121.05sВремя ответа (макс.)…
312.21sВремя ответа (макс.)…
Время ответа (суммарно)
267.83sВремя ответа (суммарно)…
1307.87sВремя ответа (суммарно)…
Генерация showcase моделей
Hamster playing table tennis
Prompt: Create a detailed SVG illustration of a hamster playing table tennis.
#229 KAT-Coder-Air V2.5
none
Стоимость
$0.002
Время
14.5s
Токены
2,619 tok
#225 Nemotron 3.5 Lightning
low
Для этой модели еще не сгенерирован результат showcase.
5.6Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
50.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
2Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 3Время ответа (среднее)2.68sВремя ответа (макс.)5.78sВремя ответа (суммарно)10.73sТест считается полностью пройденным, только если все его прогоны успешны.…
5.8Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
75.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
2Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 2Время ответа (среднее)14.82sВремя ответа (макс.)27.06sВремя ответа (суммарно)59.28sТест считается полностью пройденным, только если все его прогоны успешны.…
9.6Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
0.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Лишнее форматирование: 2Неверный ответ: 1Время ответа (среднее)14.31sВремя ответа (макс.)21.40sВремя ответа (суммарно)42.94sТест считается полностью пройденным, только если все его прогоны успешны.…
7.8Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
11.1%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 3Время ответа (среднее)224.42sВремя ответа (макс.)312.21sВремя ответа (суммарно)673.27sТест считается полностью пройденным, только если все его прогоны успешны.…
1.6Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
50.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
2Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Ошибка API: 1Неверный ответ: 1Время ответа (среднее)73.00sВремя ответа (макс.)121.05sВремя ответа (суммарно)146.00sТест считается полностью пройденным, только если все его прогоны успешны.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
50.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Недопустимый вызов инструмента: 1Время ответа (среднее)142.36sВремя ответа (макс.)259.10sВремя ответа (суммарно)284.72sТест считается полностью пройденным, только если все его прогоны успешны.…
5.8Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
66.7%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Лишнее форматирование: 1Время ответа (среднее)2.66sВремя ответа (макс.)2.69sВремя ответа (суммарно)5.33sТест считается полностью пройденным, только если все его прогоны успешны.…
5.8Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
16.7%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Не соблюдены инструкции: 1Неверный ответ: 1Время ответа (среднее)31.32sВремя ответа (макс.)39.86sВремя ответа (суммарно)62.64sТест считается полностью пройденным, только если все его прогоны успешны.…
7.2Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
11.1%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 3Время ответа (среднее)6.24sВремя ответа (макс.)8.97sВремя ответа (суммарно)18.72sТест считается полностью пройденным, только если все его прогоны успешны.…
7.2Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
22.2%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 3Время ответа (среднее)50.01sВремя ответа (макс.)123.93sВремя ответа (суммарно)150.04sТест считается полностью пройденным, только если все его прогоны успешны.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
0.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 1Время ответа (среднее)12.02sВремя ответа (макс.)12.02sВремя ответа (суммарно)12.02sТест считается полностью пройденным, только если все его прогоны успешны.…
9.5Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
0.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 1Время ответа (среднее)4.61sВремя ответа (макс.)4.61sВремя ответа (суммарно)4.61sТест считается полностью пройденным, только если все его прогоны успешны.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)1.75sВремя ответа (макс.)2.06sВремя ответа (суммарно)3.50sТест считается полностью пройденным, только если все его прогоны успешны.…
6.9Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
83.3%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Не соблюдены инструкции: 1Время ответа (среднее)5.46sВремя ответа (макс.)7.47sВремя ответа (суммарно)10.92sТест считается полностью пройденным, только если все его прогоны успешны.…
4.4Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
22.2%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
2Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 3Время ответа (среднее)1.84sВремя ответа (макс.)2.06sВремя ответа (суммарно)5.52sТест считается полностью пройденным, только если все его прогоны успешны.…
1.8Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
44.4%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
3Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 3Время ответа (среднее)6.21sВремя ответа (макс.)11.28sВремя ответа (суммарно)18.64sТест считается полностью пройденным, только если все его прогоны успешны.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)5.13sВремя ответа (макс.)5.13sВремя ответа (суммарно)5.13sТест считается полностью пройденным, только если все его прогоны успешны.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)5.08sВремя ответа (макс.)5.08sВремя ответа (суммарно)5.08sТест считается полностью пройденным, только если все его прогоны успешны.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
0.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 1Время ответа (среднее)17.96sВремя ответа (макс.)17.96sВремя ответа (суммарно)17.96sТест считается полностью пройденным, только если все его прогоны успешны.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
0.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 1Время ответа (среднее)38.68sВремя ответа (макс.)38.68sВремя ответа (суммарно)38.68sТест считается полностью пройденным, только если все его прогоны успешны.…