| 反AIトリック | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|
| StepFun: Step 3.5 Flash | 10.00 | 10.00 | 100.0% | 0 | 13,924 | 17,208 | |
| xAI: Grok 4.1 Fast | 10.00 | 10.00 | 100.0% | 0 | 102 | 4,021 |
AI BENCHY Compare
StepFun: Step 3.5 Flash vs xAI: Grok 4.1 Fast
モデル名:
ベンチマークは AI BENCHY テストスイートから次の日時に生成 : 2026-02-27 15:16
概要
| 指標 | StepFun: Step 3.5 Flash medium リリース: リリース日不明 無料で利用可能 | xAI: Grok 4.1 Fast medium リリース: リリース日不明 |
|---|---|---|
| 順位 | #11 | #16 |
| スコア | 7.00 | 6.29 |
| 一貫性 | 8.32 | 8.20 |
| 結果あたりのコスト | 0.000 | 0.532 |
| 合計コスト | $0.000 | $0.043 |
| 正解テスト | ||
| 誤答テスト数 | 5 | 6 |
| 試行ごとの合格率 | 73.8% | 66.7% |
| 不安定なテスト | 3 | 3 |
| 出力トークン | 60,502 | 793 |
| 推論トークン | 117,044 | 74,056 |
カテゴリ内訳
| データ解析と抽出 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|
| StepFun: Step 3.5 Flash | 10.00 | 10.00 | 100.0% | 0 | 535 | 11,548 | |
| xAI: Grok 4.1 Fast | 10.00 | 10.00 | 100.0% | 0 | 180 | 5,472 |
| ドメイン特化 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|
| StepFun: Step 3.5 Flash | 4.00 | 7.21 | 44.4% | 1 | 40,942 | 74,237 | |
| xAI: Grok 4.1 Fast | 4.00 | 7.21 | 55.6% | 1 | 12 | 40,547 |
| 指示追従 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|
| StepFun: Step 3.5 Flash | 10.00 | 10.00 | 100.0% | 0 | 2,121 | 3,274 | |
| xAI: Grok 4.1 Fast | 5.50 | 10.00 | 50.0% | 0 | 48 | 3,151 |
| Puzzle Solving | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|
| StepFun: Step 3.5 Flash | 2.00 | 4.96 | 33.3% | 2 | 2,705 | 6,975 | |
| xAI: Grok 4.1 Fast | 4.67 | 7.20 | 44.4% | 1 | 191 | 9,380 |
| ツール呼び出し | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|
| StepFun: Step 3.5 Flash | 10.00 | 10.00 | 100.0% | 0 | 275 | 3,802 | |
| xAI: Grok 4.1 Fast | 1.00 | 1.62 | 33.3% | 1 | 260 | 11,485 |
比較ペアを切り替え
StepFun: Step 3.5 Flash と比較...
- Google: Gemini 3 Flash Preview medium
- Google: Gemini 3.1 Pro Preview medium
- Google: Gemini 3 Pro Preview medium
- Qwen: Qwen3.5 Plus 2026-02-15 medium
- Qwen: Qwen3.5-27B medium
- Google: Gemini 3 Flash Preview low
- OpenAI: GPT-5.3-Codex medium
- Anthropic: Claude Sonnet 4.6 medium
- Z.ai: GLM 5 medium
- Google: Gemini 3 Flash Preview none
- OpenAI: GPT-5.2 medium
- Qwen: Qwen3.5-122B-A10B medium
- Anthropic: Claude Sonnet 4.6 none
- Qwen: Qwen3.5 Plus 2026-02-15 none
- xAI: Grok 4.1 Fast medium
- MoonshotAI: Kimi K2.5 medium
- ByteDance Seed: Seed-2.0-Mini medium
- Z.ai: GLM 5 none
- Anthropic: Claude Opus 4.6 medium
- Xiaomi: MiMo-V2-Flash medium
- Qwen: Qwen3.5-35B-A3B medium
- OpenAI: GPT-5 Nano medium
- Qwen: Qwen3.5-Flash medium
- OpenAI: gpt-oss-120b medium 無料で利用可能
- MiniMax: MiniMax M2.5 medium
- Qwen: Qwen3.5-122B-A10B none
- OpenAI: GPT-4o-mini none
- Qwen: Qwen3.5-27B none
- Qwen: Qwen3.5-35B-A3B none
- Z.ai: GLM 4.7 Flash medium
- MoonshotAI: Kimi K2.5 none
- Qwen: Qwen3 Coder Next none
- Z.ai: GLM 4.7 Flash none
- Qwen: Qwen3.5-Flash none
- Qwen: Qwen3 Coder Next medium
- Xiaomi: MiMo-V2-Flash none
- xAI: Grok 4.1 Fast none
- LiquidAI: LFM2-24B-A2B none
xAI: Grok 4.1 Fast と比較...
- Google: Gemini 3 Flash Preview medium
- Google: Gemini 3.1 Pro Preview medium
- Google: Gemini 3 Pro Preview medium
- Qwen: Qwen3.5 Plus 2026-02-15 medium
- Qwen: Qwen3.5-27B medium
- Google: Gemini 3 Flash Preview low
- OpenAI: GPT-5.3-Codex medium
- Anthropic: Claude Sonnet 4.6 medium
- Z.ai: GLM 5 medium
- Google: Gemini 3 Flash Preview none
- StepFun: Step 3.5 Flash medium 無料で利用可能
- OpenAI: GPT-5.2 medium
- Qwen: Qwen3.5-122B-A10B medium
- Anthropic: Claude Sonnet 4.6 none
- Qwen: Qwen3.5 Plus 2026-02-15 none
- MoonshotAI: Kimi K2.5 medium
- ByteDance Seed: Seed-2.0-Mini medium
- Z.ai: GLM 5 none
- Anthropic: Claude Opus 4.6 medium
- Xiaomi: MiMo-V2-Flash medium
- Qwen: Qwen3.5-35B-A3B medium
- OpenAI: GPT-5 Nano medium
- Qwen: Qwen3.5-Flash medium
- OpenAI: gpt-oss-120b medium 無料で利用可能
- MiniMax: MiniMax M2.5 medium
- Qwen: Qwen3.5-122B-A10B none
- OpenAI: GPT-4o-mini none
- Qwen: Qwen3.5-27B none
- Qwen: Qwen3.5-35B-A3B none
- Z.ai: GLM 4.7 Flash medium
- MoonshotAI: Kimi K2.5 none
- Qwen: Qwen3 Coder Next none
- Z.ai: GLM 4.7 Flash none
- Qwen: Qwen3.5-Flash none
- Qwen: Qwen3 Coder Next medium
- Xiaomi: MiMo-V2-Flash none
- xAI: Grok 4.1 Fast none
- LiquidAI: LFM2-24B-A2B none