AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs xAI: Grok Build 0.1

Ringkasan

Grok Build 0.1 (medium) unggul dalam skor rata-rata dengan 7.6 vs 7.5. KAT-Coder-Pro V2.5 (medium) memiliki biaya benchmark lebih rendah di $0.275 vs $0.927. KAT-Coder-Pro V2.5 (medium) lebih cepat di 12.95s vs 49.90s, dengan tingkat keberhasilan 65.1% vs 61.9%.

Model yang direkomendasikanKAT-Coder-Pro V2.5 (medium)Its score stays close to the best score here (7.5 vs 7.6), while costing about 3.4x less than Grok Build 0.1 (medium).

Benchmark dihasilkan dari suite pengujian AI BENCHY pada: 2026-07-14

Metrik	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 medium Rilis: 2026-07-14	Grok Build 0.1 Grok Build 0.1 medium Rilis: 2026-05-21

Metrik	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 medium Rilis: 2026-07-14	Grok Build 0.1 Grok Build 0.1 medium Rilis: 2026-05-21
Skor	7.5	7.6
Peringkat	#60	#56
Keandalan	10.0	10.0
Konsistensi	7.7	9.9
Tes benar
Tingkat lulus per percobaan	65.1%	61.9%
Tes tidak stabil	6	0
Total Run	63	63
Biaya per hasil	2.498	7.124
Total Biaya	$0.275	$0.927
Harga input	$0.740 / 1M	$1.000 / 1M
Harga output	$2.960 / 1M	$2.000 / 1M
Total token input	42,750	44,418
Token output	2,098	2,782
Token penalaran	80,027	438,018
Waktu respons (rata-rata)	12.95s	49.90s
Waktu respons (maks)	81.45s	252.69s
Waktu respons (total)	271.92s	1047.92s

Showcase generasi

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#60 KAT-Coder-Pro V2.5

medium

Biaya: $0.009
Waktu: 25.6s
Token: 2,939 tok

#56 xAI: Grok Build 0.1

medium

Biaya: $0.028
Waktu: 81.3s
Token: 14,009 tok

Model teratas berdasarkan skor

Skor vs Total Biaya

Waktu respons (rata-rata)

Skor vs Waktu respons (rata-rata)

Total token output

Skor vs Total token output

Rincian Kategori

Kategori:

Trik anti-AI	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	8.2	7.9	83.3%	1		3.90s	672	208	3,868
Grok Build 0.1	8.3	10.0	75.0%	0		7.43s	2,010	220	12,162

Pemrograman	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		33.10s	7,893	416	33,658
Grok Build 0.1	5.7	9.7	33.3%	0		108.46s	8,304	1,138	161,452

Gabungan	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.50s	15,132	363	3,367
Grok Build 0.1	10.0	10.0	100.0%	0		32.81s	12,909	231	16,917

Parsing dan ekstraksi data	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	7.3	5.9	83.3%	1		4.70s	7,776	275	2,122
Grok Build 0.1	10.0	10.0	100.0%	0		10.72s	7,761	180	8,876

Spesifik domain	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	2.9	7.2	11.1%	1		29.03s	771	36	29,584
Grok Build 0.1	5.3	10.0	33.3%	0		158.00s	1,764	492	175,294

Kecerdasan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	4.7	3.1	33.3%	1		2.35s	516	92	381
Grok Build 0.1	4.4	9.9	0.0%	0		18.41s	825	76	6,345

Kepatuhan instruksi	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	9.9	10.0	100.0%	0		2.58s	699	83	971
Grok Build 0.1	9.8	10.0	100.0%	0		12.36s	1,362	57	9,599

Pemecahan teka-teki	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	5.9	4.5	66.7%	2		3.20s	696	325	1,867
Grok Build 0.1	7.7	10.0	66.7%	0		18.26s	1,689	195	20,841

Pemanggilan alat	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		19.02s	8,391	282	1,010
Grok Build 0.1	10.0	10.0	100.0%	0		13.12s	7,263	180	4,969

Pengetahuan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		9.87s	204	18	3,199
Grok Build 0.1	3.0	10.0	0.0%	0		53.51s	531	13	21,563

Perbandingan Cepat

Ganti Pasangan Perbandingan

DeepSeek V4 ProhighvsGrok Build 0.1medium KAT-Coder-Pro V2.5mediumvsGPT-5.3 Chatnone DeepSeek V4 ProhighvsKAT-Coder-Pro V2.5medium KAT-Coder-Pro V2.5highvsGrok Build 0.1medium GPT-5.3 ChatnonevsGrok Build 0.1medium GPT-5.6 LunahighvsGrok Build 0.1medium Step 3.7 FlashlowvsGrok Build 0.1medium GPT-5.6 TerralowvsGrok Build 0.1medium Claude Opus 4.8lowvsGrok Build 0.1medium Gemini 3 Flash PreviewlowvsKAT-Coder-Pro V2.5medium KAT-Coder-Pro V2.5mediumvsGPT-5.6 Lunahigh KAT-Coder-Pro V2.5mediumvsStep 3.7 Flashlow