Kwaipilot: KAT-Coder-Air V2.5 vs OpenAI: GPT-5.4

GPT-5.4 unggul dalam skor rata-rata dengan 5.8 vs 5.4. KAT-Coder-Air V2.5 (low) memiliki biaya benchmark lebih rendah di $0.041 vs $0.397. GPT-5.4 lebih cepat di 2.07s vs 10.09s, dengan tingkat keberhasilan 45.5% vs 34.9%.

Model yang direkomendasikanGPT-5.4It has the best score here (5.8), while responding about 4.9x faster than KAT-Coder-Air V2.5 (low).

Benchmark dihasilkan dari suite pengujian AI BENCHY pada: 2026-07-18

Metrik	KAT-Coder-Air V2.5 KAT-Coder-Air V2.5 low Rilis: 2026-07-14	GPT-5.4 GPT-5.4 none Rilis: 2026-03-05

Metrik	KAT-Coder-Air V2.5 KAT-Coder-Air V2.5 low Rilis: 2026-07-14	GPT-5.4 GPT-5.4 none Rilis: 2026-03-05
Skor	5.4	5.8
Peringkat	#154	#135
Keandalan	9.9	10.0
Konsistensi	7.4	9.2
Tes benar
Tingkat lulus per percobaan	45.5%	34.9%
Tes tidak stabil	7	2
Total Run	66	66
Biaya per hasil	0.585	5.663
Total Biaya	$0.041	$0.397
Harga input	$0.150 / 1M	$2.500 / 1M
Harga output	$0.600 / 1M	$15.000 / 1M
Total token input	61,085	108,632
Token output	5,905	8,321
Token penalaran	46,990	0
Waktu respons (rata-rata)	10.09s	2.07s
Waktu respons (maks)	86.23s	15.63s
Waktu respons (total)	222.03s	45.51s

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#154 KAT-Coder-Air V2.5

low

Biaya: $0.004
Waktu: 29.9s
Token: 6,008 tok

#135 GPT-5.4

none

Biaya: $0.026
Waktu: 18.1s
Token: 1,792 tok

Model teratas berdasarkan skor

Skor vs Total Biaya

Waktu respons (rata-rata)

Skor vs Waktu respons (rata-rata)

Total token output

Skor vs Total token output

Rincian Kategori

Kategori:

Trik anti-AI	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	7.3	5.8	83.3%	2		3.50s	672	422	1,548
GPT-5.4	3.2	8.0	8.3%	1		1.21s	606	406	0

Pemrograman	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	3.5	7.3	11.1%	1		11.06s	7,893	2,001	13,623
GPT-5.4	5.5	10.0	33.3%	0		1.62s	7,305	516	0

Gabungan	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	6.4	5.8	66.7%	1		55.86s	33,753	2,046	17,833
GPT-5.4	3.0	10.0	0.0%	0		9.26s	85,439	6,195	0

Parsing dan ekstraksi data	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	6.5	10.0	50.0%	0		2.82s	7,776	261	1,069
GPT-5.4	10.0	10.0	100.0%	0		1.04s	7,140	222	0

Spesifik domain	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	2.9	7.2	11.1%	1		4.99s	553	310	3,332
GPT-5.4	5.3	7.2	44.4%	1		1.07s	723	50	0

Kecerdasan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	5.0	10.0	0.0%	0		10.11s	516	142	596
GPT-5.4	4.4	9.9	0.0%	0		1.78s	477	184	0

Kepatuhan instruksi	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	9.8	10.0	100.0%	0		1.64s	699	89	640
GPT-5.4	6.5	10.0	50.0%	0		1.07s	660	81	0

Pemecahan teka-teki	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	3.1	4.6	22.2%	2		1.57s	696	294	796
GPT-5.4	5.6	9.8	33.3%	0		1.44s	642	381	0

Pemanggilan alat	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	10.0	10.0	100.0%	0		4.47s	8,391	330	1,065
GPT-5.4	10.0	10.0	100.0%	0		2.75s	5,445	246	0

Pengetahuan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	3.0	10.0	0.0%	0		19.98s	136	10	6,488
GPT-5.4	3.0	10.0	0.0%	0		990ms	195	40	0

Perbandingan Cepat

Ganti Pasangan Perbandingan