AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs StepFun: Step 3.7 Flash

Rezumat

Step 3.7 Flash (medium) conduce la scorul mediu cu 8.5 vs 8.0. KAT-Coder-Pro V2.5 (low) are costul de benchmark mai mic, $0.220 vs $0.376. KAT-Coder-Pro V2.5 (low) este mai rapid cu 10.44s vs 20.35s, cu rate de reușită de 71.4% vs 73.0%.

Model recomandatKAT-Coder-Pro V2.5 (low)Scorul rămâne aproape de cel mai bun scor de aici (8.0 vs 8.5) și costă de aproximativ 1.7x mai puțin decât Step 3.7 Flash (medium).

Benchmark-urile au fost generate din suitele de teste AI BENCHY la: 2026-07-14

Metrică	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low Lansare: 2026-07-14	Step 3.7 Flash Step 3.7 Flash medium Lansare: 2026-05-29

Metrică	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low Lansare: 2026-07-14	Step 3.7 Flash Step 3.7 Flash medium Lansare: 2026-05-29
Scor	8.0	8.5
Rang	#35	#23
Fiabilitate	9.9	9.9
Consistență	7.3	9.3
Teste corecte
Rată de trecere pe încercare	71.4%	73.0%
Teste instabile	7	2
Rulări totale	63	61
Cost per rezultat	1.991	2.686
Cost total	$0.220	$0.376
Preț de intrare	$0.740 / 1M	$0.200 / 1M
Preț de ieșire	$2.960 / 1M	$1.150 / 1M
Total tokenuri de intrare	42,750	39,981
Tokenuri de ieșire	2,167	319,958
Tokenuri de raționament	61,133	0
Timp de răspuns (mediu)	10.44s	20.35s
Timp de răspuns (maxim)	51.34s	113.98s
Timp de răspuns (total)	219.17s	427.42s

Prezentare generare

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#35 KAT-Coder-Pro V2.5

low

Cost: $0.016
Timp: 47.6s
Tokenuri: 5,182 tok

#23 Step 3.7 Flash

medium

Cost: $0.006
Timp: 46.2s
Tokenuri: 4,466 tok

Top modele după scor

Scor vs cost total

Timp de răspuns (mediu)

Scor vs Timp de răspuns (mediu)

Total tokenuri de ieșire

Scor vs Total tokenuri de ieșire

Defalcare pe categorii

Categorie:

Trucuri anti-AI	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	6.9	5.8	75.0%	2		4.20s	672	277	4,228
Step 3.7 Flash	8.7	7.9	91.7%	1		9.65s	756	32,185	0

Programare	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		24.87s	7,893	402	24,945
Step 3.7 Flash	8.8	7.8	88.9%	1		27.42s	7,437	44,797	0

Combinat	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.59s	15,132	394	3,391
Step 3.7 Flash	10.0	10.0	100.0%	0		9.06s	13,683	7,106	0

Parsare și extragere de date	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.19s	7,776	288	1,917
Step 3.7 Flash	10.0	10.0	100.0%	0		2.75s	7,398	3,020	0

Specific domeniului	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	4.1	4.4	44.5%	2		17.52s	771	35	16,877
Step 3.7 Flash	7.7	10.0	66.7%	0		48.27s	708	70,347	0

Inteligență generală	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	4.1	2.7	33.3%	1		2.32s	516	99	412
Step 3.7 Flash	4.0	10.0	0.0%	0		6.85s	525	3,987	0

Respectarea instrucțiunilor	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		2.53s	699	83	1,008
Step 3.7 Flash	9.8	10.0	100.0%	0		1.83s	735	2,166	0

Rezolvare de puzzle-uri	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	6.4	4.4	77.8%	2		3.11s	696	289	1,820
Step 3.7 Flash	5.7	9.9	33.3%	0		6.19s	756	15,071	0

Apelare instrumente	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		18.45s	8,391	282	834
Step 3.7 Flash	10.0	10.0	100.0%	0		4.16s	7,746	2,115	0

Cultură generală	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		17.06s	204	18	5,701
Step 3.7 Flash	3.0	10.0	0.0%	0		113.98s	237	139,164	0

Comparație rapidă

Schimbă perechea de comparație