AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs StepFun: Step 3.7 Flash

概要

Step 3.7 Flash (medium) が平均スコアでリードし、8.5 vs 8.0 です。 KAT-Coder-Pro V2.5 (low) の benchmark コストが低く、$0.220 vs $0.376 です。 KAT-Coder-Pro V2.5 (low) の方が高速で、10.44s vs 20.35s です、成功率は 71.4% vs 73.0% です。

おすすめモデルKAT-Coder-Pro V2.5 (low)スコアはここでの最高値に近く（8.0 vs 8.5）、Step 3.7 Flash (medium) より約 1.7 倍低コストです。

ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-07-14

指標	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low リリース: 2026-07-14	Step 3.7 Flash Step 3.7 Flash medium リリース: 2026-05-29

指標	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low リリース: 2026-07-14	Step 3.7 Flash Step 3.7 Flash medium リリース: 2026-05-29
スコア	8.0	8.5
順位	#35	#23
信頼性	9.9	9.9
一貫性	7.3	9.3
正解テスト
試行ごとの合格率	71.4%	73.0%
不安定なテスト	7	2
総実行回数	63	61
結果あたりのコスト	1.991	2.686
合計コスト	$0.220	$0.376
入力価格	$0.740 / 1M	$0.200 / 1M
出力価格	$2.960 / 1M	$1.150 / 1M
合計入力トークン	42,750	39,981
出力トークン	2,167	319,958
推論トークン	61,133	0
応答時間（平均）	10.44s	20.35s
応答時間（最大）	51.34s	113.98s
応答時間（合計）	219.17s	427.42s

生成ショーケース

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#35 KAT-Coder-Pro V2.5

low

コスト: $0.016
時間: 47.6s
トークン: 5,182 tok

#23 Step 3.7 Flash

medium

コスト: $0.006
時間: 46.2s
トークン: 4,466 tok

スコア上位モデル

スコア vs 総コスト

応答時間（平均）

スコア vs 応答時間（平均）

合計出力トークン

スコア vs 合計出力トークン

カテゴリ内訳

カテゴリ:

反AIトリック	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	6.9	5.8	75.0%	2		4.20s	672	277	4,228
Step 3.7 Flash	8.7	7.9	91.7%	1		9.65s	756	32,185	0

コーディング	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		24.87s	7,893	402	24,945
Step 3.7 Flash	8.8	7.8	88.9%	1		27.42s	7,437	44,797	0

複合	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.59s	15,132	394	3,391
Step 3.7 Flash	10.0	10.0	100.0%	0		9.06s	13,683	7,106	0

データ解析と抽出	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.19s	7,776	288	1,917
Step 3.7 Flash	10.0	10.0	100.0%	0		2.75s	7,398	3,020	0

ドメイン特化	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	4.1	4.4	44.5%	2		17.52s	771	35	16,877
Step 3.7 Flash	7.7	10.0	66.7%	0		48.27s	708	70,347	0

汎用知能	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	4.1	2.7	33.3%	1		2.32s	516	99	412
Step 3.7 Flash	4.0	10.0	0.0%	0		6.85s	525	3,987	0

指示追従	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		2.53s	699	83	1,008
Step 3.7 Flash	9.8	10.0	100.0%	0		1.83s	735	2,166	0

パズル解決	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	6.4	4.4	77.8%	2		3.11s	696	289	1,820
Step 3.7 Flash	5.7	9.9	33.3%	0		6.19s	756	15,071	0

ツール呼び出し	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		18.45s	8,391	282	834
Step 3.7 Flash	10.0	10.0	100.0%	0		4.16s	7,746	2,115	0

雑学	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		17.06s	204	18	5,701
Step 3.7 Flash	3.0	10.0	0.0%	0		113.98s	237	139,164	0

クイック比較

比較ペアを切り替え