AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs xAI: Grok Build 0.1

Ringkasan

KAT-Coder-Pro V2.5 (high) unggul dalam skor rata-rata dengan 7.7 vs 7.6. KAT-Coder-Pro V2.5 (high) memiliki biaya benchmark lebih rendah di $0.246 vs $0.927. KAT-Coder-Pro V2.5 (high) lebih cepat di 12.30s vs 49.90s, dengan tingkat keberhasilan 63.5% vs 61.9%.

Model yang direkomendasikanKAT-Coder-Pro V2.5 (high)It has the best score here (7.7), while costing about 3.8x less than Grok Build 0.1 (medium).

Benchmark dihasilkan dari suite pengujian AI BENCHY pada: 2026-07-14

Metrik	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high Rilis: 2026-07-14	Grok Build 0.1 Grok Build 0.1 medium Rilis: 2026-05-21

Metrik	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high Rilis: 2026-07-14	Grok Build 0.1 Grok Build 0.1 medium Rilis: 2026-05-21
Skor	7.7	7.6
Peringkat	#53	#56
Keandalan	10.0	10.0
Konsistensi	8.1	9.9
Tes benar
Tingkat lulus per percobaan	63.5%	61.9%
Tes tidak stabil	5	0
Total Run	63	63
Biaya per hasil	2.228	7.124
Total Biaya	$0.246	$0.927
Harga input	$0.740 / 1M	$1.000 / 1M
Harga output	$2.960 / 1M	$2.000 / 1M
Total token input	42,750	44,418
Token output	2,509	2,782
Token penalaran	69,594	438,018
Waktu respons (rata-rata)	12.30s	49.90s
Waktu respons (maks)	95.65s	252.69s
Waktu respons (total)	258.34s	1047.92s

Showcase generasi

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#53 KAT-Coder-Pro V2.5

high

Biaya: $0.009
Waktu: 26.4s
Token: 3,117 tok

#56 xAI: Grok Build 0.1

medium

Biaya: $0.028
Waktu: 81.3s
Token: 14,009 tok

Model teratas berdasarkan skor

Skor vs Total Biaya

Waktu respons (rata-rata)

Skor vs Waktu respons (rata-rata)

Total token output

Skor vs Total token output

Rincian Kategori

Kategori:

Trik anti-AI	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	7.0	8.0	66.7%	1		3.17s	672	447	2,716
Grok Build 0.1	8.3	10.0	75.0%	0		7.43s	2,010	220	12,162

Pemrograman	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	6.4	7.9	44.4%	1		22.00s	7,893	422	20,461
Grok Build 0.1	5.7	9.7	33.3%	0		108.46s	8,304	1,138	161,452

Gabungan	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		13.44s	15,132	394	2,807
Grok Build 0.1	10.0	10.0	100.0%	0		32.81s	12,909	231	16,917

Parsing dan ekstraksi data	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.13s	7,776	278	1,960
Grok Build 0.1	10.0	10.0	100.0%	0		10.72s	7,761	180	8,876

Spesifik domain	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	2.9	4.4	22.2%	2		35.33s	771	33	35,701
Grok Build 0.1	5.3	10.0	33.3%	0		158.00s	1,764	492	175,294

Kecerdasan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	5.1	10.0	0.0%	0		3.27s	516	139	647
Grok Build 0.1	4.4	9.9	0.0%	0		18.41s	825	76	6,345

Kepatuhan instruksi	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	9.9	10.0	100.0%	0		2.67s	699	84	976
Grok Build 0.1	9.8	10.0	100.0%	0		12.36s	1,362	57	9,599

Pemecahan teka-teki	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	8.2	7.2	88.9%	1		3.38s	696	428	1,936
Grok Build 0.1	7.7	10.0	66.7%	0		18.26s	1,689	195	20,841

Pemanggilan alat	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		28.04s	8,391	268	896
Grok Build 0.1	10.0	10.0	100.0%	0		13.12s	7,263	180	4,969

Pengetahuan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		5.22s	204	16	1,494
Grok Build 0.1	3.0	10.0	0.0%	0		53.51s	531	13	21,563

Perbandingan Cepat

Ganti Pasangan Perbandingan