AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs Qwen: Qwen3.5-27B

概要

KAT-Coder-Pro V2.5 (low) が平均スコアでリードし、8.0 vs 7.9 です。 KAT-Coder-Pro V2.5 (low) の benchmark コストが低く、$0.220 vs $0.536 です。 KAT-Coder-Pro V2.5 (low) の方が高速で、10.44s vs 68.39s です、成功率は 71.4% vs 73.0% です。

おすすめモデルKAT-Coder-Pro V2.5 (low)ここでは最高スコア（8.0）で、Qwen3.5-27B (medium) より約 2.4 倍低コストです。

ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-07-14

指標	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low リリース: 2026-07-14	Qwen3.5-27B Qwen3.5-27B medium リリース: 2026-02-24

指標	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low リリース: 2026-07-14	Qwen3.5-27B Qwen3.5-27B medium リリース: 2026-02-24
スコア	8.0	7.9
順位	#35	#36
信頼性	9.9	10.0
一貫性	7.3	8.5
正解テスト
試行ごとの合格率	71.4%	73.0%
不安定なテスト	7	4
総実行回数	63	63
結果あたりのコスト	1.991	4.901
合計コスト	$0.220	$0.536
入力価格	$0.740 / 1M	$0.195 / 1M
出力価格	$2.960 / 1M	$1.560 / 1M
合計入力トークン	42,750	42,164
出力トークン	2,167	8,534
推論トークン	61,133	329,289
応答時間（平均）	10.44s	68.39s
応答時間（最大）	51.34s	234.36s
応答時間（合計）	219.17s	1436.24s

生成ショーケース

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#35 KAT-Coder-Pro V2.5

low

コスト: $0.016
時間: 47.6s
トークン: 5,182 tok

#36 Qwen3.5-27B

medium

コスト: $0.008
時間: 62.0s
トークン: 3,099 tok

スコア上位モデル

スコア vs 総コスト

応答時間（平均）

スコア vs 応答時間（平均）

合計出力トークン

スコア vs 合計出力トークン

カテゴリ内訳

カテゴリ:

反AIトリック	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	6.9	5.8	75.0%	2		4.20s	672	277	4,228
Qwen3.5-27B	8.7	7.9	91.7%	1		19.75s	672	569	31,505

コーディング	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		24.87s	7,893	402	24,945
Qwen3.5-27B	6.2	7.1	55.6%	1		160.69s	7,895	6,381	89,388

複合	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.59s	15,132	394	3,391
Qwen3.5-27B	10.0	10.0	100.0%	0		163.96s	14,946	483	9,991

データ解析と抽出	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.19s	7,776	288	1,917
Qwen3.5-27B	10.0	10.0	100.0%	0		30.26s	7,782	270	16,150

ドメイン特化	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	4.1	4.4	44.5%	2		17.52s	771	35	16,877
Qwen3.5-27B	5.3	10.0	33.3%	0		79.53s	553	43	52,368

汎用知能	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	4.1	2.7	33.3%	1		2.32s	516	99	412
Qwen3.5-27B	6.1	3.1	66.7%	1		101.41s	524	70	23,147

指示追従	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		2.53s	699	83	1,008
Qwen3.5-27B	10.0	10.0	100.0%	0		19.66s	699	97	11,638

パズル解決	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	6.4	4.4	77.8%	2		3.11s	696	289	1,820
Qwen3.5-27B	8.2	7.7	77.8%	1		59.60s	696	242	70,096

ツール呼び出し	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		18.45s	8,391	282	834
Qwen3.5-27B	10.0	10.0	100.0%	0		7.45s	8,193	348	1,323

雑学	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		17.06s	204	18	5,701
Qwen3.5-27B	3.0	10.0	0.0%	0		85.11s	204	31	23,683

クイック比較

比較ペアを切り替え