AI BENCHY Compare
Anthropic: Claude Opus 4.8 vs StepFun: Step 3.5 Flash
ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-05-28
| 指標 | Claude Opus 4.8 Claude Opus 4.8 none | Step 3.5 Flash Step 3.5 Flash medium |
|---|---|---|
| スコア | 7.3 | 7.4 |
| 順位 | #63 | #59 |
| 信頼性 | 10.0 | 10.0 |
| 一貫性 | 9.2 | 9.1 |
| 正解テスト | ||
| 試行ごとの合格率 | 65.0% | 62.3% |
| 不安定なテスト | 2 | 2 |
| 総実行回数 | 60 | 57 |
| 結果あたりのコスト | 4.324 | 0.133 |
| 合計コスト | $0.519 | $0.062 |
| 入力価格 | $5.000 / 1M | $0.090 / 1M |
| 出力価格 | $25.000 / 1M | $0.300 / 1M |
| 出力トークン | 8,098 | 90,478 |
| 推論トークン | 0 | 173,544 |
| 応答時間（平均） | 3.51s | 43.20s |
| 応答時間（最大） | 17.73s | 170.45s |
| 応答時間（合計） | 70.19s | 561.54s |
スコア vs 総コスト
応答時間（平均）
スコア vs 応答時間（平均）
合計出力トークン
スコア vs 合計出力トークン
カテゴリ内訳
| 反AIトリック | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Opus 4.8 | 6.5 | 10.0 | 50.0% | 0 | 3.40s | 1,472 | 0 | |
| Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 40.57s | 20,391 | 24,176 |
| コーディング | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Opus 4.8 | 6.8 | 10.0 | 50.0% | 0 | 3.59s | 1,323 | 0 | |
| Step 3.5 Flash | 3.0 | 6.0 | 50.0% | 1 | 62.83s | 12,098 | 0 |
| 複合 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Opus 4.8 | 9.5 | 10.0 | 100.0% | 0 | 17.73s | 3,259 | 0 | |
| Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 29.57s | 1,176 | 12,984 |
| データ解析と抽出 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Opus 4.8 | 7.3 | 5.8 | 83.3% | 1 | 1.77s | 308 | 0 | |
| Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 15.01s | 600 | 13,886 |
| ドメイン特化 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Opus 4.8 | 5.3 | 7.2 | 44.4% | 1 | 1.66s | 61 | 0 | |
| Step 3.5 Flash | 5.3 | 7.2 | 44.4% | 1 | 170.45s | 45,350 | 90,436 |
| 汎用知能 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Opus 4.8 | 10.0 | 10.0 | 100.0% | 0 | 3.48s | 230 | 0 | |
| Step 3.5 Flash | 5.5 | 10.0 | 0.0% | 0 | 22.39s | 240 | 3,506 |
| 指示追従 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Opus 4.8 | 9.9 | 10.0 | 100.0% | 0 | 1.37s | 95 | 0 | |
| Step 3.5 Flash | 8.3 | 10.0 | 50.0% | 0 | 4.78s | 2,364 | 3,521 |
| パズル解決 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Opus 4.8 | 7.7 | 10.0 | 66.7% | 0 | 2.74s | 783 | 0 | |
| Step 3.5 Flash | 5.3 | 10.0 | 33.3% | 0 | 7.22s | 5,630 | 10,861 |
| ツール呼び出し | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Opus 4.8 | 10.0 | 10.0 | 100.0% | 0 | 5.35s | 355 | 0 | |
| Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 11.91s | 275 | 3,802 |
| 雑学 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Opus 4.8 | 3.0 | 10.0 | 0.0% | 0 | 3.41s | 212 | 0 | |
| Step 3.5 Flash | 3.0 | 10.0 | 0.0% | 0 | 108.45s | 2,354 | 10,372 |
クイック比較
比較ペアを切り替え
Claude Opus 4.8nonevsQwen3.5-35B-A3BmediumGPT-5.3 ChatnonevsStep 3.5 FlashmediumClaude Opus 4.8nonevsRing-2.6-1TmediumClaude Opus 4.8nonevsGPT-5.4 MinimediumGemini 3.1 Flash LitelowvsStep 3.5 FlashmediumClaude Opus 4.8nonevsGPT-5.2mediumGemini 3.1 Flash Lite PreviewnonevsStep 3.5 FlashmediumClaude Opus 4.8nonevsGLM 5V TurbomediumClaude Opus 4.8nonevsGPT-5.4 NanomediumClaude Opus 4.8nonevsGPT-5 MinimediumClaude Opus 4.8nonevsKimi K2.6medium無料で利用可能Claude Opus 4.8nonevsMiMo-V2.5medium