AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs OpenAI: GPT-5.4

Résumé

GPT-5.4 (medium) mène au score moyen avec 8.5 vs 8.0. KAT-Coder-Pro V2.5 (low) a le coût de benchmark le plus bas avec $0.220 vs $1.210. KAT-Coder-Pro V2.5 (low) est plus rapide avec 10.44s vs 22.35s, avec des taux de réussite de 71.4% vs 76.2%.

Modèle recommandéKAT-Coder-Pro V2.5 (low)Son score reste proche du meilleur score ici (8.0 vs 8.5) tout en coûtant environ 5.5x moins que GPT-5.4 (medium).

Benchmarks générés à partir des suites de tests AI BENCHY le: 2026-07-14

Métrique	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low Sortie: 2026-07-14	GPT-5.4 GPT-5.4 medium Sortie: 2026-03-05

Métrique	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low Sortie: 2026-07-14	GPT-5.4 GPT-5.4 medium Sortie: 2026-03-05
Score	8.0	8.5
Rang	#35	#20
Fiabilité	9.9	10.0
Cohérence	7.3	8.6
Tests corrects
Taux de réussite par tentative	71.4%	76.2%
Tests instables	7	4
Exécutions totales	63	63
Coût par résultat	1.991	8.640
Coût total	$0.220	$1.210
Prix d'entrée	$0.740 / 1M	$2.500 / 1M
Prix de sortie	$2.960 / 1M	$15.000 / 1M
Total des jetons d'entrée	42,750	34,108
Jetons de sortie	2,167	2,242
Jetons de raisonnement	61,133	72,707
Temps de réponse (moy.)	10.44s	22.35s
Temps de réponse (max)	51.34s	100.41s
Temps de réponse (total)	219.17s	469.29s

Génération showcase

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#35 KAT-Coder-Pro V2.5

low

Coût: $0.016
Temps: 47.6s
Tokens: 5,182 tok

#20 GPT-5.4

medium

Coût: $0.214
Temps: 199.6s
Tokens: 14,349 tok

Meilleurs modèles par score

Score vs coût total

Temps de réponse (moy.)

Score vs Temps de réponse (moy.)

Total des jetons de sortie

Score vs Total des jetons de sortie

Répartition par catégorie

Catégorie:

Astuces anti-IA	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	6.9	5.8	75.0%	2		4.20s	672	277	4,228
GPT-5.4	8.3	10.0	75.0%	0		4.11s	606	240	1,511

Programmation	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		24.87s	7,893	402	24,945
GPT-5.4	8.8	7.8	88.9%	1		44.36s	7,305	433	24,216

Combiné	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.59s	15,132	394	3,391
GPT-5.4	10.0	10.0	100.0%	0		20.57s	11,019	301	3,543

Analyse et extraction des données	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.19s	7,776	288	1,917
GPT-5.4	10.0	10.0	100.0%	0		5.32s	7,140	234	804

Spécifique au domaine	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	4.1	4.4	44.5%	2		17.52s	771	35	16,877
GPT-5.4	5.3	7.2	44.4%	1		74.27s	619	61	34,748

Intelligence générale	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	4.1	2.7	33.3%	1		2.32s	516	99	412
GPT-5.4	4.7	3.1	33.3%	1		4.92s	477	145	321

Suivi des instructions	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		2.53s	699	83	1,008
GPT-5.4	10.0	10.0	100.0%	0		3.11s	660	93	897

Résolution d'énigmes	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	6.4	4.4	77.8%	2		3.11s	696	289	1,820
GPT-5.4	8.2	7.2	88.9%	1		9.14s	642	441	3,815

Appel d'outils	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		18.45s	8,391	282	834
GPT-5.4	10.0	10.0	100.0%	0		13.28s	5,445	264	1,031

Culture générale	Score	Cohérence	Taux de réussite par tentative	Tests instables	Tests corrects	Temps de réponse (moy.)	Jetons d'entrée	Jetons de sortie	Jetons de raisonnement
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		17.06s	204	18	5,701
GPT-5.4	3.0	10.0	0.0%	0		13.95s	195	30	1,821

Comparaison rapide

Changer la paire de comparaison