Kwaipilot: KAT-Coder-Air V2.5 vs Mistral: Mistral Small 4

KAT-Coder-Air V2.5 (high) unggul dalam skor rata-rata dengan 5.6 vs 5.1. Mistral Small 4 memiliki biaya benchmark lebih rendah di $0.022 vs $0.077. Mistral Small 4 lebih cepat di 1.20s vs 15.90s, dengan tingkat keberhasilan 43.9% vs 25.8%.

Model yang direkomendasikanMistral Small 4Its score stays close to the best score here (5.1 vs 5.6), while costing about 3.6x less than KAT-Coder-Air V2.5 (high).

Benchmark dihasilkan dari suite pengujian AI BENCHY pada: 2026-07-20

Metrik	KAT-Coder-Air V2.5 KAT-Coder-Air V2.5 high Rilis: 2026-07-14	Mistral Small 4 Mistral Small 4 none Rilis: 2026-03-16

Metrik	KAT-Coder-Air V2.5 KAT-Coder-Air V2.5 high Rilis: 2026-07-14	Mistral Small 4 Mistral Small 4 none Rilis: 2026-03-16
Skor	5.6	5.1
Peringkat	#144	#165
Keandalan	9.9	10.0
Konsistensi	7.7	9.6
Tes benar
Tingkat lulus per percobaan	43.9%	25.8%
Tes tidak stabil	6	1
Total Run	66	66
Biaya per hasil	1.097	0.432
Total Biaya	$0.077	$0.022
Harga input	$0.150 / 1M	$0.150 / 1M
Harga output	$0.600 / 1M	$0.600 / 1M
Total token input	50,470	104,708
Token output	3,957	9,812
Token penalaran	111,374	0
Waktu respons (rata-rata)	15.90s	1.20s
Waktu respons (maks)	118.35s	13.16s
Waktu respons (total)	349.71s	26.38s

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#144 KAT-Coder-Air V2.5

high

SVG tidak valid

Biaya: $0.000
Waktu: 300.0s
Token: 0 tok

#165 Mistral Small 4

none

Biaya: $0.002
Waktu: 10.4s
Token: 2,370 tok

Model teratas berdasarkan skor

Skor vs Total Biaya

Waktu respons (rata-rata)

Skor vs Waktu respons (rata-rata)

Total token output

Skor vs Total token output

Rincian Kategori

Kategori:

Trik anti-AI	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	6.9	5.8	75.0%	2		2.49s	615	204	1,290
Mistral Small 4	3.4	7.9	16.7%	1		395ms	708	182	0

Pemrograman	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	4.3	7.3	11.1%	1		39.07s	6,948	1,166	55,883
Mistral Small 4	3.7	9.7	0.0%	0		901ms	7,636	619	0

Gabungan	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	6.5	10.0	50.0%	0		74.48s	23,854	485	28,559
Mistral Small 4	3.0	10.0	0.0%	0		7.44s	79,039	8,107	0

Parsing dan ekstraksi data	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	6.5	10.0	50.0%	0		3.59s	7,776	284	2,140
Mistral Small 4	10.0	10.0	100.0%	0		822ms	7,914	261	0

Spesifik domain	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	2.9	7.2	11.1%	1		7.47s	771	914	8,602
Mistral Small 4	5.3	10.0	33.3%	0		367ms	798	28	0

Kecerdasan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	5.1	10.0	0.0%	0		7.10s	516	179	539
Mistral Small 4	4.0	10.0	0.0%	0		729ms	519	205	0

Kepatuhan instruksi	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	9.8	10.0	100.0%	0		1.51s	699	90	675
Mistral Small 4	6.5	10.0	50.0%	0		380ms	729	69	0

Pemecahan teka-teki	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	3.5	4.4	33.3%	2		2.47s	696	285	1,576
Mistral Small 4	3.1	9.9	0.0%	0		399ms	735	111	0

Pemanggilan alat	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	10.0	10.0	100.0%	0		4.77s	8,391	330	1,082
Mistral Small 4	10.0	10.0	100.0%	0		1.40s	6,420	213	0

Pengetahuan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	3.0	10.0	0.0%	0		21.72s	204	20	11,028
Mistral Small 4	3.0	10.0	0.0%	0		397ms	210	17	0

Perbandingan Cepat

Ganti Pasangan Perbandingan