AI BENCHY Compare
Anthropic: Claude Sonnet 4.6 vs StepFun: Step 3.5 Flash
ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-04-16
| 指標 | Claude Sonnet 4.6 Claude Sonnet 4.6 medium | Step 3.5 Flash Step 3.5 Flash medium |
|---|---|---|
| スコア | 8.0 | 7.9 |
| 順位 | #26 | #30 |
| 一貫性 | 9.5 | 9.1 |
| 正解テスト | ||
| 試行ごとの合格率 | 74.1% | 70.6% |
| 不安定なテスト | 1 | 2 |
| 総実行回数 | 54 | 49 |
| 結果あたりのコスト | 8.930 | 0.000 |
| 合計コスト | $1.161 | $0.000 |
| ???? | $3.000 / 1M | $0.100 / 1M |
| ???? | $15.000 / 1M | $0.300 / 1M |
| 出力トークン | 42,068 | 71,904 |
| 推論トークン | 26,784 | 155,607 |
| 応答時間（平均） | 12.66s | 26.78s |
| 応答時間（最大） | 46.35s | 170.45s |
| 応答時間（合計） | 126.62s | 294.58s |
スコア vs 総コスト
応答時間（平均）
スコア vs 応答時間（平均）
合計出力トークン
スコア vs 合計出力トークン
カテゴリ内訳
| 反AIトリック | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Sonnet 4.6 | 6.5 | 10.0 | 50.0% | 0 | 2.98s | 1,046 | 1,093 | |
| Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 13.56s | 14,376 | 17,668 |
| コーディング | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Sonnet 4.6 | 10.0 | 10.0 | 100.0% | 0 | 35.76s | 6,894 | 2,097 | |
| Step 3.5 Flash | - | - | - | - | - | - | - | - |
| 複合 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Sonnet 4.6 | 10.0 | 10.0 | 100.0% | 0 | 46.35s | 5,871 | 3,962 | |
| Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 29.57s | 1,176 | 12,984 |
| データ解析と抽出 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Sonnet 4.6 | 10.0 | 10.0 | 100.0% | 0 | 13.90s | 649 | 742 | |
| Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 15.01s | 600 | 13,886 |
| ドメイン特化 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Sonnet 4.6 | 2.9 | 7.2 | 11.1% | 1 | 0ms | 25,790 | 16,919 | |
| Step 3.5 Flash | 5.3 | 7.2 | 44.4% | 1 | 170.45s | 45,350 | 90,436 |
| 汎用知能 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Sonnet 4.6 | 10.0 | 10.0 | 100.0% | 0 | 4.94s | 256 | 433 | |
| Step 3.5 Flash | 5.5 | 10.0 | 0.0% | 0 | 6.54s | 2,214 | 2,584 |
| 指示追従 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Sonnet 4.6 | 10.0 | 10.0 | 100.0% | 0 | 2.61s | 318 | 552 | |
| Step 3.5 Flash | 8.5 | 6.8 | 83.3% | 1 | 4.98s | 2,284 | 3,412 |
| パズル解決 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Sonnet 4.6 | 10.0 | 10.0 | 100.0% | 0 | 4.80s | 589 | 635 | |
| Step 3.5 Flash | 5.3 | 10.0 | 33.3% | 0 | 7.72s | 5,629 | 10,835 |
| ツール呼び出し | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間（平均） | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|
| Claude Sonnet 4.6 | 10.0 | 10.0 | 100.0% | 0 | 7.48s | 655 | 351 | |
| Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 11.91s | 275 | 3,802 |
クイック比較
比較ペアを切り替え
Gemini 3.1 Flash Lite PreviewnonevsStep 3.5 FlashmediumGPT-5.2 ChatnonevsStep 3.5 FlashmediumClaude Sonnet 4.6mediumvsGemini 3.1 Flash Lite PreviewlowClaude Sonnet 4.6mediumvsGemini 3 Flash PreviewnoneClaude Sonnet 4.6mediumvsGPT-5.2 ChatnoneClaude Sonnet 4.6mediumvsGemini 3.1 Flash Lite PreviewnoneGemini 3.1 Flash Lite PreviewlowvsStep 3.5 FlashmediumGPT-5.3 ChatnonevsStep 3.5 FlashmediumGemini 3 Flash PreviewnonevsStep 3.5 FlashmediumClaude Sonnet 4.6mediumvsGPT-5.3 ChatnoneClaude Sonnet 4.6nonevsStep 3.5 FlashmediumClaude Sonnet 4.6mediumvsGemini 3 Flash Previewlow