Kwaipilot: KAT-Coder-Air V2.5 vs Mistral: Mistral Small 4

KAT-Coder-Air V2.5 (low) unggul dalam skor rata-rata dengan 5.4 vs 5.1. Mistral Small 4 memiliki biaya benchmark lebih rendah di $0.022 vs $0.041. Mistral Small 4 lebih cepat di 1.20s vs 10.09s, dengan tingkat keberhasilan 45.5% vs 25.8%.

Model yang direkomendasikanMistral Small 4Its score stays close to the best score here (5.1 vs 5.4), while costing about 1.9x less than KAT-Coder-Air V2.5 (low).

Benchmark dihasilkan dari suite pengujian AI BENCHY pada: 2026-07-17

Metrik	KAT-Coder-Air V2.5 KAT-Coder-Air V2.5 low Rilis: 2026-07-14	Mistral Small 4 Mistral Small 4 none Rilis: 2026-03-16

Metrik	KAT-Coder-Air V2.5 KAT-Coder-Air V2.5 low Rilis: 2026-07-14	Mistral Small 4 Mistral Small 4 none Rilis: 2026-03-16
Skor	5.4	5.1
Peringkat	#151	#157
Keandalan	9.9	10.0
Konsistensi	7.4	9.6
Tes benar
Tingkat lulus per percobaan	45.5%	25.8%
Tes tidak stabil	7	1
Total Run	66	66
Biaya per hasil	0.585	0.432
Total Biaya	$0.041	$0.022
Harga input	$0.150 / 1M	$0.150 / 1M
Harga output	$0.600 / 1M	$0.600 / 1M
Total token input	61,085	104,708
Token output	5,905	9,812
Token penalaran	46,990	0
Waktu respons (rata-rata)	10.09s	1.20s
Waktu respons (maks)	86.23s	13.16s
Waktu respons (total)	222.03s	26.38s

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#151 KAT-Coder-Air V2.5

low

Biaya: $0.004
Waktu: 29.9s
Token: 6,008 tok

#157 Mistral Small 4

none

Biaya: $0.002
Waktu: 10.4s
Token: 2,370 tok

Model teratas berdasarkan skor

Skor vs Total Biaya

Waktu respons (rata-rata)

Skor vs Waktu respons (rata-rata)

Total token output

Skor vs Total token output

Rincian Kategori

Kategori:

Trik anti-AI	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	7.3	5.8	83.3%	2		3.50s	672	422	1,548
Mistral Small 4	3.4	7.9	16.7%	1		395ms	708	182	0

Pemrograman	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	3.5	7.3	11.1%	1		11.06s	7,893	2,001	13,623
Mistral Small 4	3.7	9.7	0.0%	0		901ms	7,636	619	0

Gabungan	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	6.4	5.8	66.7%	1		55.86s	33,753	2,046	17,833
Mistral Small 4	3.0	10.0	0.0%	0		7.44s	79,039	8,107	0

Parsing dan ekstraksi data	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	6.5	10.0	50.0%	0		2.82s	7,776	261	1,069
Mistral Small 4	10.0	10.0	100.0%	0		822ms	7,914	261	0

Spesifik domain	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	2.9	7.2	11.1%	1		4.99s	553	310	3,332
Mistral Small 4	5.3	10.0	33.3%	0		367ms	798	28	0

Kecerdasan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	5.0	10.0	0.0%	0		10.11s	516	142	596
Mistral Small 4	4.0	10.0	0.0%	0		729ms	519	205	0

Kepatuhan instruksi	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	9.8	10.0	100.0%	0		1.64s	699	89	640
Mistral Small 4	6.5	10.0	50.0%	0		380ms	729	69	0

Pemecahan teka-teki	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	3.1	4.6	22.2%	2		1.57s	696	294	796
Mistral Small 4	3.1	9.9	0.0%	0		399ms	735	111	0

Pemanggilan alat	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	10.0	10.0	100.0%	0		4.47s	8,391	330	1,065
Mistral Small 4	10.0	10.0	100.0%	0		1.40s	6,420	213	0

Pengetahuan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
KAT-Coder-Air V2.5	3.0	10.0	0.0%	0		19.98s	136	10	6,488
Mistral Small 4	3.0	10.0	0.0%	0		397ms	210	17	0

Perbandingan Cepat

Ganti Pasangan Perbandingan