- 順位
- #277
- 合計出力トークン
- 11,832
- 応答時間(平均)
- 22.65s
- 合計コスト
- $0.786
Ember-1 vs Step 3.5 Flash (medium)
平均スコアは 5.4 vs 5.4 でほぼ同等です。 Step 3.5 Flash (medium) の benchmark コストが低く、$0.105 vs $0.786 です。 Ember-1 の方が高速で、22.65s vs 190.48s です、成功率は 43.5% vs 49.3% です。
比較対象モデル
- 順位
- #276
- 合計出力トークン
- 607,130
- 応答時間(平均)
- 190.48s
- 合計コスト
- $0.105
おすすめモデル
Step 3.5 Flash (medium)
ここでは最高スコア(5.4)で、Ember-1 より約 7.5 倍低コストです。
詳細比較
| 指標 | Ember-1 Ember-1 none | Step 3.5 Flash Step 3.5 Flash medium |
|---|---|---|
| スコア | 5.4 | 5.4 |
| 順位 | #277 | #276 |
| 信頼性 | 8.8 | 10.0 |
| 一貫性 | 8.6 | 8.3 |
| 試行回数 | 69/69 | 66/69 |
| 正解テスト | ||
| 試行ごとの合格率 | 43.5% | 49.3% |
| 不安定なテスト | 4 | 3 |
| 総実行回数 | 69 | 66 |
| 結果あたりのコスト | 9.817 | 1.047 |
| 合計コスト | $0.786 | $0.105 |
| 入力価格 | $3.000 / 1M | $0.100 / 1M |
| 出力価格 | $15.000 / 1M | $0.300 / 1M |
| 合計入力トークン | 202,617 | 139,086 |
| 出力トークン | 11,832 | 193,584 |
| 推論トークン | 0 | 413,546 |
| 応答時間(平均) | 22.65s | 190.48s |
| 応答時間(最大) | 93.12s | 1597.85s |
| 応答時間(合計) | 520.91s | 3238.23s |
| パラメータ | ~2.8T 総数 (~104B アクティブ) | 196B 総数 (11B アクティブ) |
| 公開状況 | クローズド | オープンソース |
モデル生成ショーケース
Hamster playing table tennis
Prompt: Create a detailed SVG illustration of a hamster playing table tennis.
#277 Ember-1
none- コスト
- $0.156
- 時間
- 224.6s
- トークン
- 10,555 tok
#276 Step 3.5 Flash
medium- コスト
- $0.008
- 時間
- 277.1s
- トークン
- 23,695 tok
スコア上位モデル
スコア vs 総コスト
応答時間(平均)
スコア vs 応答時間(平均)
合計出力トークン
スコア vs 合計出力トークン
カテゴリ内訳
| エージェントタスク | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 6.1 | 3.1 | 66.7% | 1 | 92.87s | 175,191 | 9,168 | 0 | |
| Step 3.5 Flash | 2.8 | 1.6 | 33.3% | 1 | 172.16s | 73,370 | 4,160 | 34,434 |
| 反AIトリック | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 5.2 | 7.9 | 41.7% | 1 | 22.37s | 796 | 867 | 0 | |
| Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 40.57s | 694 | 20,391 | 24,176 |
| コーディング | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 5.5 | 10.0 | 33.3% | 0 | 1.94s | 7,485 | 393 | 0 | |
| Step 3.5 Flash | 2.4 | 5.2 | 0.0% | 0 | 258.38s | 2,211 | 13,207 | 22,429 |
| 複合 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 3.0 | 10.0 | 0.0% | 0 | 49.01s | 12,162 | 327 | 0 | |
| Step 3.5 Flash | 6.5 | 10.0 | 50.0% | 0 | 813.71s | 44,914 | 18,150 | 111,004 |
| データ解析と抽出 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 6.4 | 5.9 | 66.7% | 1 | 35.25s | 4,017 | 161 | 0 | |
| Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 15.01s | 7,368 | 600 | 13,886 |
| ドメイン特化 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 5.3 | 10.0 | 33.3% | 0 | 21.61s | 804 | 68 | 0 | |
| Step 3.5 Flash | 3.5 | 4.4 | 33.3% | 2 | 311.60s | 682 | 126,213 | 175,555 |
| 汎用知能 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 5.0 | 10.0 | 0.0% | 0 | 2.28s | 540 | 160 | 0 | |
| Step 3.5 Flash | 5.5 | 10.0 | 0.0% | 0 | 22.39s | 509 | 240 | 3,506 |
| 指示追従 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 6.4 | 5.8 | 66.7% | 1 | 31.00s | 509 | 81 | 0 | |
| Step 3.5 Flash | 8.3 | 10.0 | 50.0% | 0 | 4.78s | 705 | 2,364 | 3,521 |
| パズル解決 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 10.0 | 10.0 | 100.0% | 0 | 2.54s | 840 | 569 | 0 | |
| Step 3.5 Flash | 5.3 | 10.0 | 33.3% | 0 | 7.22s | 711 | 5,630 | 10,861 |
| ツール呼び出し | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 3.0 | 10.0 | 0.0% | 0 | 26.44s | 0 | 0 | 0 | |
| Step 3.5 Flash | 10.0 | 10.0 | 100.0% | 0 | 11.91s | 7,701 | 275 | 3,802 |
| 雑学 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 3.0 | 10.0 | 0.0% | 0 | 1.05s | 273 | 38 | 0 | |
| Step 3.5 Flash | 3.0 | 10.0 | 0.0% | 0 | 108.45s | 221 | 2,354 | 10,372 |
クイック比較
比較ペアを切り替え
Step 3.5 FlashmediumvsMiMo-V2.6-FlashnoneStep 3.5 FlashmediumvsHy4 previewlowEmber-1nonevsHy4 previewlowNorth Mini Codemedium無料で利用可能vsEmber-1noneGPT-5.6 LunanonevsStep 3.5 FlashmediumEmber-1nonevsGranite 4.2 8BlowGranite 4.2 8BlowvsStep 3.5 FlashmediumKimi K2.5nonevsStep 3.5 FlashmediumQwen3.8 27Bnone無料で利用可能vsStep 3.5 FlashmediumSeed-2.0-CodenonevsStep 3.5 FlashmediumLaguna XS 2.1none無料で利用可能vsStep 3.5 FlashmediumQwen3.6 35B A3BnonevsStep 3.5 Flashmedium