AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs OpenAI: GPT-5.4

Rezumat

GPT-5.4 (medium) conduce la scorul mediu cu 8.5 vs 8.0. KAT-Coder-Pro V2.5 (low) are costul de benchmark mai mic, $0.220 vs $1.210. KAT-Coder-Pro V2.5 (low) este mai rapid cu 10.44s vs 22.35s, cu rate de reușită de 71.4% vs 76.2%.

Model recomandatKAT-Coder-Pro V2.5 (low)Scorul rămâne aproape de cel mai bun scor de aici (8.0 vs 8.5) și costă de aproximativ 5.5x mai puțin decât GPT-5.4 (medium).

Benchmark-urile au fost generate din suitele de teste AI BENCHY la: 2026-07-14

Metrică	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low Lansare: 2026-07-14	GPT-5.4 GPT-5.4 medium Lansare: 2026-03-05

Metrică	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low Lansare: 2026-07-14	GPT-5.4 GPT-5.4 medium Lansare: 2026-03-05
Scor	8.0	8.5
Rang	#35	#20
Fiabilitate	9.9	10.0
Consistență	7.3	8.6
Teste corecte
Rată de trecere pe încercare	71.4%	76.2%
Teste instabile	7	4
Rulări totale	63	63
Cost per rezultat	1.991	8.640
Cost total	$0.220	$1.210
Preț de intrare	$0.740 / 1M	$2.500 / 1M
Preț de ieșire	$2.960 / 1M	$15.000 / 1M
Total tokenuri de intrare	42,750	34,108
Tokenuri de ieșire	2,167	2,242
Tokenuri de raționament	61,133	72,707
Timp de răspuns (mediu)	10.44s	22.35s
Timp de răspuns (maxim)	51.34s	100.41s
Timp de răspuns (total)	219.17s	469.29s

Prezentare generare

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#35 KAT-Coder-Pro V2.5

low

Cost: $0.016
Timp: 47.6s
Tokenuri: 5,182 tok

#20 GPT-5.4

medium

Cost: $0.214
Timp: 199.6s
Tokenuri: 14,349 tok

Top modele după scor

Scor vs cost total

Timp de răspuns (mediu)

Scor vs Timp de răspuns (mediu)

Total tokenuri de ieșire

Scor vs Total tokenuri de ieșire

Defalcare pe categorii

Categorie:

Trucuri anti-AI	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	6.9	5.8	75.0%	2		4.20s	672	277	4,228
GPT-5.4	8.3	10.0	75.0%	0		4.11s	606	240	1,511

Programare	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		24.87s	7,893	402	24,945
GPT-5.4	8.8	7.8	88.9%	1		44.36s	7,305	433	24,216

Combinat	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.59s	15,132	394	3,391
GPT-5.4	10.0	10.0	100.0%	0		20.57s	11,019	301	3,543

Parsare și extragere de date	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.19s	7,776	288	1,917
GPT-5.4	10.0	10.0	100.0%	0		5.32s	7,140	234	804

Specific domeniului	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	4.1	4.4	44.5%	2		17.52s	771	35	16,877
GPT-5.4	5.3	7.2	44.4%	1		74.27s	619	61	34,748

Inteligență generală	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	4.1	2.7	33.3%	1		2.32s	516	99	412
GPT-5.4	4.7	3.1	33.3%	1		4.92s	477	145	321

Respectarea instrucțiunilor	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		2.53s	699	83	1,008
GPT-5.4	10.0	10.0	100.0%	0		3.11s	660	93	897

Rezolvare de puzzle-uri	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	6.4	4.4	77.8%	2		3.11s	696	289	1,820
GPT-5.4	8.2	7.2	88.9%	1		9.14s	642	441	3,815

Apelare instrumente	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		18.45s	8,391	282	834
GPT-5.4	10.0	10.0	100.0%	0		13.28s	5,445	264	1,031

Cultură generală	Scor	Consistență	Rată de trecere pe încercare	Teste instabile	Teste corecte	Timp de răspuns (mediu)	Tokenuri de intrare	Tokenuri de ieșire	Tokenuri de raționament
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		17.06s	204	18	5,701
GPT-5.4	3.0	10.0	0.0%	0		13.95s	195	30	1,821

Comparație rapidă

Schimbă perechea de comparație