KAT-Coder-Air V2.5 vs Nemotron 3.5 Lightning (low)
Nemotron 3.5 Lightning (low) conduce la scorul mediu cu 4.8 vs 4.8. KAT-Coder-Air V2.5 are costul de benchmark mai mic, $0.067 vs $0.173. KAT-Coder-Air V2.5 este mai rapid cu 12.17s vs 59.45s, cu rate de reușită de 37.9% vs 42.4%.
Benchmark-urile au fost generate din suitele de teste AI BENCHY la:
2026-08-11
Rang
#229
Total tokenuri de ieșire
93,913
Timp de răspuns (mediu)
12.17s
Cost total
$0.067
Rang
#225
Total tokenuri de ieșire
653,448
Timp de răspuns (mediu)
59.45s
Cost total
$0.173
Model recomandatKAT-Coder-Air V2.5
Scorul rămâne aproape de cel mai bun scor de aici (4.8 vs 4.8) și costă de aproximativ 2.6x mai puțin decât Nemotron 3.5 Lightning (low).
10.0Scorul de succes la prima încercare: 10.0 înseamnă fără erori reîncercabile ale API-ului țintă sau de limită de rată înainte de apeluri reușite; erorile urmărite reduc scorul.…
9.8Scorul de succes la prima încercare: 10.0 înseamnă fără erori reîncercabile ale API-ului țintă sau de limită de rată înainte de apeluri reușite; erorile urmărite reduc scorul.…
Consistență
6.9Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
6.8Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
Acoperire benchmark
22/22 teste · 66/66 încercări
22/22 teste · 66/66 încercări
Teste corecte
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 13Formatare suplimentară: 3Eroare API: 1Timp de răspuns (mediu)12.17sTimp de răspuns (maxim)121.05sTimp de răspuns (total)267.83sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 14Nu a urmat instrucțiunile: 2Apel de instrument invalid: 1Timp de răspuns (mediu)59.45sTimp de răspuns (maxim)312.21sTimp de răspuns (total)1307.87sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
Rată de trecere pe încercare
37.9%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
42.4%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
Teste instabile
8Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
9Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Rulări totale
66Rulări totale…
66Rulări totale…
Cost per rezultat
1.336Afișează costul mediu pe răspuns corect în benchmark, în cenți (mai mic este mai bun).…
0.000Afișează costul mediu pe răspuns corect în benchmark, în cenți (mai mic este mai bun).…
Cost total
$0.067Cost total (preț curent)…
$0.173Cost total (preț curent)…
Preț de intrare
$0.150 / 1MPreț de intrare…
$0.100 / 1MPreț de intrare…
Preț de ieșire
$0.600 / 1MPreț de ieșire…
$0.250 / 1MPreț de ieșire…
Total tokenuri de intrare
69,367Total tokenuri de intrare…
138,783Total tokenuri de intrare…
Tokenuri de ieșire
93,913Tokenuri de ieșire…
137,292Tokenuri de ieșire…
Tokenuri de raționament
0Tokenuri de raționament…
516,156Tokenuri de raționament…
Timp de răspuns (mediu)
12.17sTimp de răspuns (mediu)…
59.45sTimp de răspuns (mediu)…
Timp de răspuns (maxim)
121.05sTimp de răspuns (maxim)…
312.21sTimp de răspuns (maxim)…
Timp de răspuns (total)
267.83sTimp de răspuns (total)…
1307.87sTimp de răspuns (total)…
Prezentare generare modele
Hamster playing table tennis
Prompt: Create a detailed SVG illustration of a hamster playing table tennis.
#229 KAT-Coder-Air V2.5
none
Cost
$0.002
Timp
14.5s
Tokenuri
2,619 tok
#225 Nemotron 3.5 Lightning
low
Nu s-a generat încă niciun rezultat de prezentare pentru acest model.
5.6Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
50.0%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
2Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 3Timp de răspuns (mediu)2.68sTimp de răspuns (maxim)5.78sTimp de răspuns (total)10.73sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
5.8Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
75.0%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
2Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 2Timp de răspuns (mediu)14.82sTimp de răspuns (maxim)27.06sTimp de răspuns (total)59.28sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
9.6Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
0.0%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
0Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Formatare suplimentară: 2Răspuns greșit: 1Timp de răspuns (mediu)14.31sTimp de răspuns (maxim)21.40sTimp de răspuns (total)42.94sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
7.8Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
11.1%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
1Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 3Timp de răspuns (mediu)224.42sTimp de răspuns (maxim)312.21sTimp de răspuns (total)673.27sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
1.6Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
50.0%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
2Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Eroare API: 1Răspuns greșit: 1Timp de răspuns (mediu)73.00sTimp de răspuns (maxim)121.05sTimp de răspuns (total)146.00sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
10.0Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
50.0%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
0Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Apel de instrument invalid: 1Timp de răspuns (mediu)142.36sTimp de răspuns (maxim)259.10sTimp de răspuns (total)284.72sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
5.8Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
66.7%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
1Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Formatare suplimentară: 1Timp de răspuns (mediu)2.66sTimp de răspuns (maxim)2.69sTimp de răspuns (total)5.33sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
5.8Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
16.7%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
1Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Nu a urmat instrucțiunile: 1Răspuns greșit: 1Timp de răspuns (mediu)31.32sTimp de răspuns (maxim)39.86sTimp de răspuns (total)62.64sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
7.2Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
11.1%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
1Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 3Timp de răspuns (mediu)6.24sTimp de răspuns (maxim)8.97sTimp de răspuns (total)18.72sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
7.2Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
22.2%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
1Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 3Timp de răspuns (mediu)50.01sTimp de răspuns (maxim)123.93sTimp de răspuns (total)150.04sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
10.0Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
0.0%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
0Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 1Timp de răspuns (mediu)12.02sTimp de răspuns (maxim)12.02sTimp de răspuns (total)12.02sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
9.5Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
0.0%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
0Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 1Timp de răspuns (mediu)4.61sTimp de răspuns (maxim)4.61sTimp de răspuns (total)4.61sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
10.0Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
100.0%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
0Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Niciun răspuns eșuat.Timp de răspuns (mediu)1.75sTimp de răspuns (maxim)2.06sTimp de răspuns (total)3.50sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
6.9Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
83.3%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
1Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Nu a urmat instrucțiunile: 1Timp de răspuns (mediu)5.46sTimp de răspuns (maxim)7.47sTimp de răspuns (total)10.92sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
4.4Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
22.2%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
2Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 3Timp de răspuns (mediu)1.84sTimp de răspuns (maxim)2.06sTimp de răspuns (total)5.52sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
1.8Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
44.4%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
3Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 3Timp de răspuns (mediu)6.21sTimp de răspuns (maxim)11.28sTimp de răspuns (total)18.64sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
10.0Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
100.0%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
0Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Niciun răspuns eșuat.Timp de răspuns (mediu)5.13sTimp de răspuns (maxim)5.13sTimp de răspuns (total)5.13sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
10.0Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
100.0%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
0Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Niciun răspuns eșuat.Timp de răspuns (mediu)5.08sTimp de răspuns (maxim)5.08sTimp de răspuns (total)5.08sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
10.0Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
0.0%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
0Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 1Timp de răspuns (mediu)17.96sTimp de răspuns (maxim)17.96sTimp de răspuns (total)17.96sUn test este considerat trecut complet doar dacă toate rulările lui trec.…
10.0Scorul de consistență reflectă stabilitatea între rulări (10 = foarte consistent, chiar dacă este constant greșit).…
0.0%Rata de trecere pe încercare = încercări trecute / total încercări pe toate rulările.…
0Testele instabile au avut rezultate mixte între rulări (cel puțin un succes și un eșec).…
Un test este considerat trecut complet doar dacă toate rulările lui trec.Răspuns greșit: 1Timp de răspuns (mediu)38.68sTimp de răspuns (maxim)38.68sTimp de răspuns (total)38.68sUn test este considerat trecut complet doar dacă toate rulările lui trec.…