AI BENCHY Compare
Google: Gemini 2.5 Flash vs StepFun: Step 3.7 Flash
ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-06-01
| 指標 | Gemini 2.5 Flash Gemini 2.5 Flash medium | Step 3.7 Flash Step 3.7 Flash medium |
|---|---|---|
| スコア | 7.7 | 7.9 |
| 順位 | #40 | #31 |
| 信頼性 | 10.0 | 9.9 |
| 一貫性 | 9.6 | 9.2 |
| 正解テスト | ||
| 試行ごとの合格率 | 68.3% | 71.7% |
| 不安定なテスト | 1 | 2 |
| 総実行回数 | 60 | 58 |
| 結果あたりのコスト | 2.750 | 2.663 |
| 合計コスト | $0.358 | $0.347 |
| 入力価格 | $0.300 / 1M | $0.200 / 1M |
| 出力価格 | $2.500 / 1M | $1.150 / 1M |
| 出力トークン | 1,924 | 294,481 |
| 推論トークン | 137,255 | 0 |
| 応答時間（平均） | 15.57s | 18.32s |
| 応答時間（最大） | 95.48s | 113.98s |
| 応答時間（合計） | 311.47s | 366.45s |
スコア vs 総コスト
応答時間（平均）
スコア vs 応答時間（平均）
合計出力トークン
スコア vs 合計出力トークン
カテゴリ内訳
| 反AIトリック | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 2.5 Flash | 8.4 | 10.0 | 75.0% | 0 | 6.30s | 255 | 10,233 | |
| Step 3.7 Flash | 8.7 | 7.9 | 91.7% | 1 | 9.65s | 32,185 | 0 |
| コーディング | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 2.5 Flash | 6.6 | 10.0 | 50.0% | 0 | 54.56s | 537 | 24,413 | |
| Step 3.7 Flash | 8.2 | 6.7 | 83.3% | 1 | 10.64s | 19,320 | 0 |
| 複合 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 2.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 28.44s | 303 | 11,922 | |
| Step 3.7 Flash | 10.0 | 10.0 | 100.0% | 0 | 9.06s | 7,106 | 0 |
| データ解析と抽出 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 2.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 4.06s | 279 | 2,325 | |
| Step 3.7 Flash | 10.0 | 10.0 | 100.0% | 0 | 2.75s | 3,020 | 0 |
| ドメイン特化 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 2.5 Flash | 5.9 | 7.2 | 55.6% | 1 | 37.34s | 18 | 80,702 | |
| Step 3.7 Flash | 7.7 | 10.0 | 66.7% | 0 | 48.27s | 70,347 | 0 |
| 汎用知能 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 2.5 Flash | 4.8 | 10.0 | 0.0% | 0 | 4.86s | 92 | 1,899 | |
| Step 3.7 Flash | 4.0 | 10.0 | 0.0% | 0 | 6.85s | 3,987 | 0 |
| 指示追従 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 2.5 Flash | 9.8 | 10.0 | 100.0% | 0 | 2.62s | 69 | 1,203 | |
| Step 3.7 Flash | 9.8 | 10.0 | 100.0% | 0 | 1.83s | 2,166 | 0 |
| パズル解決 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 2.5 Flash | 7.7 | 10.0 | 66.7% | 0 | 3.18s | 126 | 2,499 | |
| Step 3.7 Flash | 5.7 | 9.9 | 33.3% | 0 | 6.19s | 15,071 | 0 |
| ツール呼び出し | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 2.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 6.20s | 234 | 1,140 | |
| Step 3.7 Flash | 10.0 | 10.0 | 100.0% | 0 | 4.16s | 2,115 | 0 |
| 雑学 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 2.5 Flash | 3.0 | 10.0 | 0.0% | 0 | 2.76s | 11 | 919 | |
| Step 3.7 Flash | 3.0 | 10.0 | 0.0% | 0 | 113.98s | 139,164 | 0 |
クイック比較
比較ペアを切り替え
Qwen3.7 MaxnonevsStep 3.7 FlashmediumGPT-5.2 ChatnonevsStep 3.7 FlashmediumGemini 3.5 FlashminimalvsStep 3.7 FlashmediumDeepSeek V4 FlashhighvsGemini 2.5 FlashmediumGemini 2.5 FlashmediumvsGPT-5.2 ChatnoneGemini 2.5 FlashmediumvsQwen3.7 MaxnoneGemini 3 Flash PreviewnonevsStep 3.7 FlashmediumDeepSeek V4 FlashhighvsStep 3.7 FlashmediumGemini 3.1 Flash Lite PreviewlowvsStep 3.7 FlashmediumGemini 2.5 FlashmediumvsGPT-5.3 ChatnoneGemini 2.5 FlashmediumvsStep 3.7 FlashlowClaude Opus 4.8nonevsGemini 2.5 Flashmedium