AI BENCHY Compare
Google: Gemini 3.5 Flash vs StepFun: Step 3.7 Flash
ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-05-29
| 指標 | Gemini 3.5 Flash Gemini 3.5 Flash high | Step 3.7 Flash Step 3.7 Flash high |
|---|---|---|
| スコア | 9.6 | 7.1 |
| 順位 | #2 | #74 |
| 信頼性 | 10.0 | 10.0 |
| 一貫性 | 9.6 | 8.2 |
| 正解テスト | ||
| 試行ごとの合格率 | 96.7% | 65.8% |
| 不安定なテスト | 1 | 4 |
| 総実行回数 | 60 | 60 |
| 結果あたりのコスト | 5.231 | 8.723 |
| 合計コスト | $0.994 | $0.960 |
| 入力価格 | $1.500 / 1M | $0.200 / 1M |
| 出力価格 | $9.000 / 1M | $1.150 / 1M |
| 出力トークン | 1,969 | 828,084 |
| 推論トークン | 102,679 | 0 |
| 応答時間（平均） | 8.30s | 49.43s |
| 応答時間（最大） | 34.82s | 192.75s |
| 応答時間（合計） | 165.92s | 988.58s |
スコア vs 総コスト
応答時間（平均）
スコア vs 応答時間（平均）
合計出力トークン
スコア vs 合計出力トークン
カテゴリ内訳
| 反AIトリック | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 2.57s | 174 | 4,997 | |
| Step 3.7 Flash | 10.0 | 10.0 | 100.0% | 0 | 13.40s | 42,656 | 0 |
| コーディング | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 24.62s | 450 | 34,170 | |
| Step 3.7 Flash | 3.6 | 4.6 | 25.0% | 1 | 126.82s | 164,069 | 0 |
| 複合 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 22.37s | 351 | 16,323 | |
| Step 3.7 Flash | 10.0 | 10.0 | 100.0% | 0 | 13.01s | 8,802 | 0 |
| データ解析と抽出 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 6.43s | 279 | 8,466 | |
| Step 3.7 Flash | 10.0 | 10.0 | 100.0% | 0 | 14.72s | 23,113 | 0 |
| ドメイン特化 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 3.5 Flash | 7.6 | 7.2 | 77.8% | 1 | 14.09s | 12 | 24,721 | |
| Step 3.7 Flash | 4.1 | 4.4 | 44.5% | 2 | 149.64s | 410,502 | 0 |
| 汎用知能 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 3.63s | 115 | 1,650 | |
| Step 3.7 Flash | 5.5 | 10.0 | 0.0% | 0 | 4.17s | 2,862 | 0 |
| 指示追従 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 3.35s | 70 | 3,799 | |
| Step 3.7 Flash | 9.8 | 10.0 | 100.0% | 0 | 1.52s | 2,010 | 0 |
| パズル解決 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 3.23s | 241 | 4,940 | |
| Step 3.7 Flash | 5.3 | 7.2 | 44.4% | 1 | 10.22s | 25,422 | 0 |
| ツール呼び出し | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 3.5 Flash | 9.8 | 10.0 | 100.0% | 0 | 4.96s | 265 | 1,608 | |
| Step 3.7 Flash | 10.0 | 10.0 | 100.0% | 0 | 2.79s | 1,172 | 0 |
| 雑学 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Gemini 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 3.94s | 12 | 2,005 | |
| Step 3.7 Flash | 3.0 | 10.0 | 0.0% | 0 | 149.34s | 147,476 | 0 |
クイック比較
比較ペアを切り替え
GPT-5 MinimediumvsStep 3.7 FlashhighGPT-5.4 NanomediumvsStep 3.7 FlashhighSeed-2.0-MinimediumvsStep 3.7 FlashhighQwen3.6 Max PreviewnonevsStep 3.7 FlashhighClaude Opus 4.6mediumvsStep 3.7 FlashhighStep 3.7 FlashhighvsMiMo-V2-FlashmediumRing-2.6-1TnonevsStep 3.7 FlashhighRing-2.6-1TmediumvsStep 3.7 FlashhighQwen3.5-35B-A3BmediumvsStep 3.7 FlashhighClaude Sonnet 4.6nonevsStep 3.7 FlashhighDeepSeek V3.2mediumvsStep 3.7 FlashhighClaude Opus 4.8nonevsStep 3.7 Flashhigh