AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs OpenAI: GPT-5.4 Nano

Ringkasan

KAT-Coder-Pro V2.5 (high) unggul dalam skor rata-rata dengan 7.7 vs 7.5. GPT-5.4 Nano (medium) memiliki biaya benchmark lebih rendah di $0.107 vs $0.246. GPT-5.4 Nano (medium) lebih cepat di 11.95s vs 12.30s, dengan tingkat keberhasilan 63.5% vs 63.5%.

Model yang direkomendasikanGPT-5.4 Nano (medium)Its score stays close to the best score here (7.5 vs 7.7), while costing about 2.3x less than KAT-Coder-Pro V2.5 (high).

Benchmark dihasilkan dari suite pengujian AI BENCHY pada: 2026-07-14

Metrik	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high Rilis: 2026-07-14	GPT-5.4 Nano GPT-5.4 Nano medium Rilis: 2026-03-17

Metrik	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high Rilis: 2026-07-14	GPT-5.4 Nano GPT-5.4 Nano medium Rilis: 2026-03-17
Skor	7.7	7.5
Peringkat	#53	#62
Keandalan	10.0	10.0
Konsistensi	8.1	8.4
Tes benar
Tingkat lulus per percobaan	63.5%	63.5%
Tes tidak stabil	5	4
Total Run	63	63
Biaya per hasil	2.228	0.969
Total Biaya	$0.246	$0.107
Harga input	$0.740 / 1M	$0.200 / 1M
Harga output	$2.960 / 1M	$1.250 / 1M
Total token input	42,750	35,434
Token output	2,509	3,014
Token penalaran	69,594	76,520
Waktu respons (rata-rata)	12.30s	11.95s
Waktu respons (maks)	95.65s	94.06s
Waktu respons (total)	258.34s	250.98s

Showcase generasi

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#53 KAT-Coder-Pro V2.5

high

Biaya: $0.009
Waktu: 26.4s
Token: 3,117 tok

#62 GPT-5.4 Nano

medium

Biaya: $0.007
Waktu: 24.6s
Token: 4,943 tok

Model teratas berdasarkan skor

Skor vs Total Biaya

Waktu respons (rata-rata)

Skor vs Waktu respons (rata-rata)

Total token output

Skor vs Total token output

Rincian Kategori

Kategori:

Trik anti-AI	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	7.0	8.0	66.7%	1		3.17s	672	447	2,716
GPT-5.4 Nano	8.3	10.0	75.0%	0		4.52s	606	683	2,254

Pemrograman	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	6.4	7.9	44.4%	1		22.00s	7,893	422	20,461
GPT-5.4 Nano	6.1	4.7	66.7%	2		19.12s	7,305	516	20,778

Gabungan	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		13.44s	15,132	394	2,807
GPT-5.4 Nano	9.8	10.0	100.0%	0		24.13s	12,345	349	5,719

Parsing dan ekstraksi data	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.13s	7,776	278	1,960
GPT-5.4 Nano	10.0	10.0	100.0%	0		2.54s	7,140	234	516

Spesifik domain	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	2.9	4.4	22.2%	2		35.33s	771	33	35,701
GPT-5.4 Nano	5.9	7.2	55.6%	1		38.18s	619	60	43,325

Kecerdasan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	5.1	10.0	0.0%	0		3.27s	516	139	647
GPT-5.4 Nano	4.5	10.0	0.0%	0		4.15s	477	179	443

Kepatuhan instruksi	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	9.9	10.0	100.0%	0		2.67s	699	84	976
GPT-5.4 Nano	9.8	10.0	100.0%	0		1.88s	660	95	521

Pemecahan teka-teki	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	8.2	7.2	88.9%	1		3.38s	696	428	1,936
GPT-5.4 Nano	4.1	7.2	22.2%	1		3.79s	642	594	1,408

Pemanggilan alat	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		28.04s	8,391	268	896
GPT-5.4 Nano	10.0	10.0	100.0%	0		7.71s	5,445	234	382

Pengetahuan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		5.22s	204	16	1,494
GPT-5.4 Nano	3.0	10.0	0.0%	0		4.81s	195	70	1,174

Perbandingan Cepat

Ganti Pasangan Perbandingan