AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs StepFun: Step 3.5 Flash

Résumé

KAT-Coder-Pro V2.5 mène au score moyen avec 6.8 vs 6.6. Step 3.5 Flash (medium) a le coût de benchmark le plus bas avec $0.070 vs $0.220. KAT-Coder-Pro V2.5 est plus rapide avec 10.81s vs 72.53s, avec des taux de réussite de 71.4% vs 54.0%.

Modèle recommandéKAT-Coder-Pro V2.5Il obtient le meilleur score ici (6.8) et répond environ 6.7x plus vite que Step 3.5 Flash (medium).

Benchmarks générés à partir des suites de tests AI BENCHY le: 2026-07-14

Métrique	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 none Sortie: 2026-07-14	Step 3.5 Flash Step 3.5 Flash medium Sortie: 2026-02-01

Métrique	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 none Sortie: 2026-07-14	Step 3.5 Flash Step 3.5 Flash medium Sortie: 2026-02-01
Score	6.8	6.6
Rang	#89	#98
Fiabilité	10.0	10.0
Cohérence	7.3	8.9
Tests corrects
Taux de réussite par tentative	71.4%	54.0%
Tests instables	7	1
Exécutions totales	63	60
Coût par résultat	1.992	0.198
Coût total	$0.220	$0.070
Prix d'entrée	$0.740 / 1M	$0.100 / 1M
Prix de sortie	$2.960 / 1M	$0.300 / 1M
Total des jetons d'entrée	42,749	34,431
Jetons de sortie	63,338	91,587
Jetons de raisonnement	0	195,973
Temps de réponse (moy.)	10.81s	72.53s
Temps de réponse (max)	53.57s	453.94s
Temps de réponse (total)	227.02s	1015.47s

Génération showcase

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#89 KAT-Coder-Pro V2.5

none

Coût: $0.010
Temps: 29.0s
Tokens: 3,439 tok

#98 Step 3.5 Flash

medium

Coût: $0.008
Temps: 277.1s
Tokens: 23,695 tok

Meilleurs modèles par score

Score vs coût total

Temps de réponse (moy.)

Score vs Temps de réponse (moy.)

Total des jetons de sortie

Score vs Total des jetons de sortie

Répartition par catégorie

Catégorie:

Astuces anti-IA	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	8.7	7.9	91.7%	1		4.58s	672	3,998	0
Step 3.5 Flash	10.0	10.0	100.0%	0		40.57s	694	20,391	24,176

Programmation	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	6.1	4.7	66.7%	2		22.52s	7,893	22,440	0
Step 3.5 Flash	2.4	5.2	0.0%	0		258.38s	2,211	13,207	22,429

Combiné	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	4.7	1.6	66.7%	1		30.76s	15,131	5,366	0
Step 3.5 Flash	10.0	10.0	100.0%	0		29.57s	13,638	1,176	12,984

Analyse et extraction des données	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		5.07s	7,776	2,361	0
Step 3.5 Flash	10.0	10.0	100.0%	0		15.01s	7,368	600	13,886

Spécifique au domaine	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	3.6	7.2	22.2%	1		21.64s	771	20,972	0
Step 3.5 Flash	5.3	7.2	44.4%	1		170.45s	673	45,350	90,436

Intelligence générale	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	4.8	3.2	33.3%	1		5.16s	516	1,067	0
Step 3.5 Flash	5.5	10.0	0.0%	0		22.39s	509	240	3,506

Suivi des instructions	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	9.8	10.0	100.0%	0		2.61s	699	1,084	0
Step 3.5 Flash	8.3	10.0	50.0%	0		4.78s	705	2,364	3,521

Résolution d'énigmes	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	8.2	7.2	88.9%	1		3.03s	696	1,929	0
Step 3.5 Flash	5.3	10.0	33.3%	0		7.22s	711	5,630	10,861

Appel d'outils	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		5.93s	8,391	1,103	0
Step 3.5 Flash	10.0	10.0	100.0%	0		11.91s	7,701	275	3,802

Culture générale	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		9.91s	204	3,018	0
Step 3.5 Flash	3.0	10.0	0.0%	0		108.45s	221	2,354	10,372

Comparaison rapide

Changer la paire de comparaison