ナビゲーション
AI BENCHY
Advertise here

AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs StepFun: Step 3.5 Flash

概要

KAT-Coder-Pro V2.5 が平均スコアでリードし、6.8 vs 6.6 です。 Step 3.5 Flash (medium) の benchmark コストが低く、$0.070 vs $0.220 です。 KAT-Coder-Pro V2.5 の方が高速で、10.81s vs 72.53s です、成功率は 71.4% vs 54.0% です。

おすすめモデルKAT-Coder-Pro V2.5ここでは最高スコア(6.8)で、Step 3.5 Flash (medium) より約 6.7 倍速く応答します。

ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-07-14

指標 KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 none リリース: 2026-07-14 Step 3.5 Flash Step 3.5 Flash medium リリース: 2026-02-01
スコア 6.8 6.6
順位 #89 #98
信頼性 10.0 10.0
一貫性 7.3 8.9
正解テスト
試行ごとの合格率 71.4% 54.0%
不安定なテスト 7 1
総実行回数 63 60
結果あたりのコスト 1.992 0.198
合計コスト $0.220 $0.070
入力価格 $0.740 / 1M $0.100 / 1M
出力価格 $2.960 / 1M $0.300 / 1M
合計入力トークン 42,749 34,431
出力トークン 63,338 91,587
推論トークン 0 195,973
応答時間(平均) 10.81s 72.53s
応答時間(最大) 53.57s 453.94s
応答時間(合計) 227.02s 1015.47s

生成ショーケース

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#89 KAT-Coder-Pro V2.5

none
コスト
$0.010
時間
29.0s
トークン
3,439 tok

#98 Step 3.5 Flash

medium
コスト
$0.008
時間
277.1s
トークン
23,695 tok

スコア上位モデル

スコア vs 総コスト

応答時間(平均)

スコア vs 応答時間(平均)

合計出力トークン

スコア vs 合計出力トークン

カテゴリ内訳

コーディング スコア 一貫性 試行ごとの合格率 不安定なテスト 正解テスト 応答時間(平均) 入力トークン 出力トークン 推論トークン
KAT-Coder-Pro V2.5 6.1 4.7 66.7% 2 22.52s 7,893 22,440 0
Step 3.5 Flash 2.4 5.2 0.0% 0 258.38s 2,211 13,207 22,429

クイック比較

比較ペアを切り替え