AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs OpenAI: GPT-5.6 Luna

Ringkasan

KAT-Coder-Pro V2.5 (high) unggul dalam skor rata-rata dengan 7.7 vs 7.6. KAT-Coder-Pro V2.5 (high) memiliki biaya benchmark lebih rendah di $0.246 vs $0.258. GPT-5.6 Luna (medium) lebih cepat di 6.70s vs 12.30s, dengan tingkat keberhasilan 63.5% vs 63.5%.

Model yang direkomendasikanGPT-5.6 Luna (medium)Its score stays close to the best score here (7.6 vs 7.7), while responding about 1.8x faster than KAT-Coder-Pro V2.5 (high).

Benchmark dihasilkan dari suite pengujian AI BENCHY pada: 2026-07-14

Metrik	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high Rilis: 2026-07-14	GPT-5.6 Luna GPT-5.6 Luna medium Rilis: 2026-07-09

Metrik	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high Rilis: 2026-07-14	GPT-5.6 Luna GPT-5.6 Luna medium Rilis: 2026-07-09
Skor	7.7	7.6
Peringkat	#53	#57
Keandalan	10.0	10.0
Konsistensi	8.1	9.6
Tes benar
Tingkat lulus per percobaan	63.5%	63.5%
Tes tidak stabil	5	1
Total Run	63	63
Biaya per hasil	2.228	1.978
Total Biaya	$0.246	$0.258
Harga input	$0.740 / 1M	$1.000 / 1M
Harga output	$2.960 / 1M	$6.000 / 1M
Total token input	42,750	35,699
Token output	2,509	2,148
Token penalaran	69,594	34,740
Waktu respons (rata-rata)	12.30s	6.70s
Waktu respons (maks)	95.65s	29.85s
Waktu respons (total)	258.34s	140.62s

Showcase generasi

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#53 KAT-Coder-Pro V2.5

high

Biaya: $0.009
Waktu: 26.4s
Token: 3,117 tok

#57 GPT-5.6 Luna

medium

Biaya: $0.014
Waktu: 14.6s
Token: 2,362 tok

Model teratas berdasarkan skor

Skor vs Total Biaya

Waktu respons (rata-rata)

Skor vs Waktu respons (rata-rata)

Total token output

Skor vs Total token output

Rincian Kategori

Kategori:

Trik anti-AI	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	7.0	8.0	66.7%	1		3.17s	672	447	2,716
GPT-5.6 Luna	8.3	10.0	75.0%	0		2.52s	606	160	987

Pemrograman	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	6.4	7.9	44.4%	1		22.00s	7,893	422	20,461
GPT-5.6 Luna	5.4	7.2	44.4%	1		10.38s	7,302	564	9,928

Gabungan	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		13.44s	15,132	394	2,807
GPT-5.6 Luna	10.0	10.0	100.0%	0		9.53s	12,500	375	1,354

Parsing dan ekstraksi data	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.13s	7,776	278	1,960
GPT-5.6 Luna	10.0	10.0	100.0%	0		1.95s	7,140	234	324

Spesifik domain	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	2.9	4.4	22.2%	2		35.33s	771	33	35,701
GPT-5.6 Luna	5.3	10.0	33.3%	0		17.37s	723	68	16,531

Kecerdasan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	5.1	10.0	0.0%	0		3.27s	516	139	647
GPT-5.6 Luna	5.1	10.0	0.0%	0		4.34s	477	112	496

Kepatuhan instruksi	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	9.9	10.0	100.0%	0		2.67s	699	84	976
GPT-5.6 Luna	9.9	10.0	100.0%	0		2.38s	660	95	393

Pemecahan teka-teki	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	8.2	7.2	88.9%	1		3.38s	696	428	1,936
GPT-5.6 Luna	7.8	10.0	66.7%	0		4.04s	642	255	2,104

Pemanggilan alat	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		28.04s	8,391	268	896
GPT-5.6 Luna	10.0	10.0	100.0%	0		6.02s	5,454	256	244

Pengetahuan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		5.22s	204	16	1,494
GPT-5.6 Luna	3.0	10.0	0.0%	0		6.64s	195	29	2,379

Perbandingan Cepat

Ganti Pasangan Perbandingan