AI BENCHY Compare
Google: Gemini 3.1 Pro Preview vs StepFun: Step 3.5 Flash
比較する:
ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-03-06
| 指標 | Google: Gemini 3.1 Pro Preview medium リリース: 2026-02-19 | StepFun: Step 3.5 Flash medium リリース: 2026-02-01 無料で利用可能 |
|---|---|---|
| 順位 | #2 | #13 |
| 平均スコア | 9.4 | 7.4 |
| 一貫性 | 10.0 | 9.1 |
| 結果あたりのコスト | 3.417 | 0.000 |
| 合計コスト | $0.513 | $0.000 |
| 正解テスト | ||
| 試行ごとの合格率 | 93.8% | 68.8% |
| 不安定なテスト | 0 | 2 |
| 総実行回数 | 48 (16 x 3) | 48 (16 x 3) |
| 出力トークン | 1,521 | 71,452 |
| 推論トークン | 35,656 | 155,147 |
| 応答時間(平均) | 16.60s | 29.10s |
| 応答時間(最大) | 40.61s | 170.45s |
| 応答時間(合計) | 149.36s | 290.96s |
スコア vs 総コスト
応答時間(平均)
平均スコア vs 応答時間(平均)
カテゴリ内訳
| 反AIトリック | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Google: Gemini 3.1 Pro Preview | 10.0 | 10.0 | 100.0% | 0 | 9.52s | 106 | 2,533 | |
| StepFun: Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 18.54s | 13,924 | 17,208 |
| 複合 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Google: Gemini 3.1 Pro Preview | 9.0 | 10.0 | 100.0% | 0 | 40.61s | 432 | 9,281 | |
| StepFun: Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 29.57s | 1,176 | 12,984 |
| データ解析と抽出 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Google: Gemini 3.1 Pro Preview | 9.9 | 10.0 | 100.0% | 0 | 7.72s | 279 | 3,904 | |
| StepFun: Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 15.01s | 600 | 13,886 |
| ドメイン特化 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Google: Gemini 3.1 Pro Preview | 7.0 | 10.0 | 66.7% | 0 | 32.73s | 18 | 12,424 | |
| StepFun: Step 3.5 Flash | 4.0 | 7.2 | 44.4% | 1 | 170.45s | 45,350 | 90,436 |
| 汎用知能 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Google: Gemini 3.1 Pro Preview | 10.0 | 10.0 | 100.0% | 0 | 11.77s | 108 | 1,179 | |
| StepFun: Step 3.5 Flash | 6.0 | 10.0 | 0.0% | 0 | 6.54s | 2,214 | 2,584 |
| 指示追従 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Google: Gemini 3.1 Pro Preview | 10.0 | 10.0 | 100.0% | 0 | 9.56s | 72 | 2,236 | |
| StepFun: Step 3.5 Flash | 9.0 | 6.8 | 83.3% | 1 | 4.98s | 2,284 | 3,412 |
| Puzzle Solving | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Google: Gemini 3.1 Pro Preview | 10.0 | 10.0 | 100.0% | 0 | 7.15s | 232 | 3,117 | |
| StepFun: Step 3.5 Flash | 4.0 | 10.0 | 33.3% | 0 | 7.72s | 5,629 | 10,835 |
| ツール呼び出し | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Google: Gemini 3.1 Pro Preview | 10.0 | 10.0 | 100.0% | 0 | 23.15s | 274 | 982 | |
| StepFun: Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 11.91s | 275 | 3,802 |
クイック比較
比較ペアを切り替え
GPT-5.2 ChatnonevsStep 3.5 Flashmedium無料で利用可能Gemini 3.1 Flash Lite PreviewlowvsStep 3.5 Flashmedium無料で利用可能GPT-5.3 ChatnonevsStep 3.5 Flashmedium無料で利用可能Gemini 3 Flash PreviewnonevsStep 3.5 Flashmedium無料で利用可能Gemini 3.1 Flash Lite PreviewnonevsStep 3.5 Flashmedium無料で利用可能Claude Sonnet 4.6nonevsStep 3.5 Flashmedium無料で利用可能Gemini 3.1 Flash Lite PreviewhighvsStep 3.5 Flashmedium無料で利用可能Gemini 3 Flash PreviewlowvsStep 3.5 Flashmedium無料で利用可能Qwen3.5 Plus 2026-02-15nonevsStep 3.5 Flashmedium無料で利用可能Step 3.5 Flashmedium無料で利用可能vsGLM 5noneDeepSeek V3.2nonevsStep 3.5 Flashmedium無料で利用可能Gemini 3.1 Pro PreviewmediumvsGPT-5.2 Chatnone