AI BENCHY Compare

Anthropic: Claude Sonnet 4.6 vs Kwaipilot: KAT-Coder-Pro V2.5

Ringkasan

Claude Sonnet 4.6 (medium) unggul dalam skor rata-rata dengan 7.8 vs 7.7. KAT-Coder-Pro V2.5 (high) memiliki biaya benchmark lebih rendah di $0.246 vs $1.418. KAT-Coder-Pro V2.5 (high) lebih cepat di 12.30s vs 17.06s, dengan tingkat keberhasilan 65.1% vs 63.5%.

Model yang direkomendasikanKAT-Coder-Pro V2.5 (high)Its score stays close to the best score here (7.7 vs 7.8), while costing about 5.8x less than Claude Sonnet 4.6 (medium).

Benchmark dihasilkan dari suite pengujian AI BENCHY pada: 2026-07-14

Metrik	Claude Sonnet 4.6 Claude Sonnet 4.6 medium Rilis: 2026-02-17	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high Rilis: 2026-07-14

Metrik	Claude Sonnet 4.6 Claude Sonnet 4.6 medium Rilis: 2026-02-17	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high Rilis: 2026-07-14
Skor	7.8	7.7
Peringkat	#40	#53
Keandalan	10.0	10.0
Konsistensi	9.1	8.1
Tes benar
Tingkat lulus per percobaan	65.1%	63.5%
Tes tidak stabil	2	5
Total Run	63	63
Biaya per hasil	10.904	2.228
Total Biaya	$1.418	$0.246
Harga input	$3.000 / 1M	$0.740 / 1M
Harga output	$15.000 / 1M	$2.960 / 1M
Total token input	49,112	42,750
Token output	54,703	2,509
Token penalaran	29,970	69,594
Waktu respons (rata-rata)	17.06s	12.30s
Waktu respons (maks)	46.35s	95.65s
Waktu respons (total)	221.83s	258.34s

Showcase generasi

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#40 Claude Sonnet 4.6

medium

SVG tidak valid

Biaya: $0.000
Waktu: 300.0s
Token: 0 tok

#53 KAT-Coder-Pro V2.5

high

Biaya: $0.009
Waktu: 26.4s
Token: 3,117 tok

Model teratas berdasarkan skor

Skor vs Total Biaya

Waktu respons (rata-rata)

Skor vs Waktu respons (rata-rata)

Total token output

Skor vs Total token output

Rincian Kategori

Kategori:

Trik anti-AI	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Sonnet 4.6	6.5	10.0	50.0%	0		2.98s	789	1,046	1,093
KAT-Coder-Pro V2.5	7.0	8.0	66.7%	1		3.17s	672	447	2,716

Pemrograman	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Sonnet 4.6	5.7	6.6	44.4%	1		33.29s	6,995	16,089	3,686
KAT-Coder-Pro V2.5	6.4	7.9	44.4%	1		22.00s	7,893	422	20,461

Gabungan	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Sonnet 4.6	10.0	10.0	100.0%	0		46.35s	18,351	5,871	3,962
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		13.44s	15,132	394	2,807

Parsing dan ekstraksi data	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Sonnet 4.6	10.0	10.0	100.0%	0		13.90s	8,676	649	742
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.13s	7,776	278	1,960

Spesifik domain	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Sonnet 4.6	2.9	7.2	11.1%	1		0ms	471	25,790	16,919
KAT-Coder-Pro V2.5	2.9	4.4	22.2%	2		35.33s	771	33	35,701

Kecerdasan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Sonnet 4.6	10.0	10.0	100.0%	0		4.94s	564	256	433
KAT-Coder-Pro V2.5	5.1	10.0	0.0%	0		3.27s	516	139	647

Kepatuhan instruksi	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Sonnet 4.6	10.0	10.0	100.0%	0		2.61s	792	318	552
KAT-Coder-Pro V2.5	9.9	10.0	100.0%	0		2.67s	699	84	976

Pemecahan teka-teki	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Sonnet 4.6	10.0	10.0	100.0%	0		5.31s	816	592	646
KAT-Coder-Pro V2.5	8.2	7.2	88.9%	1		3.38s	696	428	1,936

Pemanggilan alat	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Sonnet 4.6	10.0	10.0	100.0%	0		7.48s	11,454	655	351
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		28.04s	8,391	268	896

Pengetahuan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Sonnet 4.6	3.0	10.0	0.0%	0		30.09s	204	3,437	1,586
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		5.22s	204	16	1,494

Perbandingan Cepat

Ganti Pasangan Perbandingan