- 順位
- #297
- 合計出力トークン
- 2,664
- 応答時間(平均)
- 19.46s
- 合計コスト
- $0.123
Ember-1 vs Mistral Small 4
平均スコアは 5.2 vs 5.1 でほぼ同等です。 Mistral Small 4 の benchmark コストが低く、$0.022 vs $0.123 です。 Mistral Small 4 の方が高速で、1.20s vs 19.46s です、成功率は 42.4% vs 25.8% です。
比較対象モデル
- 順位
- #300
- 合計出力トークン
- 9,812
- 応答時間(平均)
- 1.20s
- 合計コスト
- $0.022
おすすめモデル
Mistral Small 4
ここでは最高スコア(5.1)で、Ember-1 より約 5.7 倍低コストです。
詳細比較
| 指標 | Ember-1 Ember-1 none | Mistral Small 4 Mistral Small 4 none |
|---|---|---|
| スコア | 5.2 | 5.1 |
| 順位 | #297 | #300 |
| 信頼性 | 8.1 | 10.0 |
| 一貫性 | 8.9 | 9.6 |
| 試行回数 | 66/66 | 66/66 |
| 正解テスト | ||
| 試行ごとの合格率 | 42.4% | 25.8% |
| 不安定なテスト | 3 | 1 |
| 総実行回数 | 66 | 66 |
| 結果あたりのコスト | 1.528 | 0.432 |
| 合計コスト | $0.123 | $0.022 |
| 入力価格 | $3.000 / 1M | $0.150 / 1M |
| 出力価格 | $15.000 / 1M | $0.600 / 1M |
| 合計入力トークン | 27,426 | 104,717 |
| 出力トークン | 2,664 | 9,812 |
| 推論トークン | 0 | 0 |
| 応答時間(平均) | 19.46s | 1.20s |
| 応答時間(最大) | 93.12s | 13.16s |
| 応答時間(合計) | 428.04s | 26.41s |
| パラメータ | ~2.8T 総数 (~104B アクティブ) | 119B 総数 (6B アクティブ) |
| 公開状況 | クローズド | オープンソース |
モデル生成ショーケース
Hamster playing table tennis
Prompt: Create a detailed SVG illustration of a hamster playing table tennis.
#297 Ember-1
none- コスト
- $0.156
- 時間
- 224.6s
- トークン
- 10,555 tok
#300 Mistral Small 4
none- コスト
- $0.002
- 時間
- 10.4s
- トークン
- 2,370 tok
スコア上位モデル
スコア vs 総コスト
応答時間(平均)
スコア vs 応答時間(平均)
合計出力トークン
スコア vs 合計出力トークン
カテゴリ内訳
| 反AIトリック | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 5.2 | 7.9 | 41.7% | 1 | 22.37s | 796 | 867 | 0 | |
| Mistral Small 4 | 3.4 | 7.9 | 16.7% | 1 | 395ms | 708 | 182 | 0 |
| コーディング | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 5.5 | 10.0 | 33.3% | 0 | 1.94s | 7,485 | 393 | 0 | |
| Mistral Small 4 | 3.7 | 9.7 | 0.0% | 0 | 901ms | 7,636 | 619 | 0 |
| 複合 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 3.0 | 10.0 | 0.0% | 0 | 49.01s | 12,162 | 327 | 0 | |
| Mistral Small 4 | 3.0 | 10.0 | 0.0% | 0 | 7.44s | 79,039 | 8,107 | 0 |
| データ解析と抽出 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 6.4 | 5.9 | 66.7% | 1 | 35.25s | 4,017 | 161 | 0 | |
| Mistral Small 4 | 10.0 | 10.0 | 100.0% | 0 | 822ms | 7,914 | 261 | 0 |
| ドメイン特化 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 5.3 | 10.0 | 33.3% | 0 | 21.61s | 804 | 68 | 0 | |
| Mistral Small 4 | 5.3 | 10.0 | 33.3% | 0 | 377ms | 807 | 28 | 0 |
| 汎用知能 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 5.0 | 10.0 | 0.0% | 0 | 2.28s | 540 | 160 | 0 | |
| Mistral Small 4 | 4.0 | 10.0 | 0.0% | 0 | 729ms | 519 | 205 | 0 |
| 指示追従 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 6.4 | 5.8 | 66.7% | 1 | 31.00s | 509 | 81 | 0 | |
| Mistral Small 4 | 6.5 | 10.0 | 50.0% | 0 | 380ms | 729 | 69 | 0 |
| パズル解決 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 10.0 | 10.0 | 100.0% | 0 | 2.54s | 840 | 569 | 0 | |
| Mistral Small 4 | 3.1 | 9.9 | 0.0% | 0 | 399ms | 735 | 111 | 0 |
| ツール呼び出し | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 3.0 | 10.0 | 0.0% | 0 | 26.44s | 0 | 0 | 0 | |
| Mistral Small 4 | 10.0 | 10.0 | 100.0% | 0 | 1.40s | 6,420 | 213 | 0 |
| 雑学 | スコア | 一貫性 | 試行ごとの合格率 | 不安定なテスト | 正解テスト | 応答時間(平均) | 入力トークン | 出力トークン | 推論トークン |
|---|---|---|---|---|---|---|---|---|---|
| Ember-1 | 3.0 | 10.0 | 0.0% | 0 | 1.05s | 273 | 38 | 0 | |
| Mistral Small 4 | 3.0 | 10.0 | 0.0% | 0 | 397ms | 210 | 17 | 0 |
クイック比較
比較ペアを切り替え
Mistral Small 4nonevsNemotron 3.5 Lightningmedium無料で利用可能Ember-1nonevsGranite 4.2 8BmediumGranite 4.2 8BlowvsMistral Small 4noneMercury 2.5lowvsMistral Small 4noneGranite 4.2 8BmediumvsMistral Small 4noneEmber-1nonevsNemotron 3.5 Lightningmedium無料で利用可能Ember-1nonevsMistral Small 4mediumEmber-1nonevsGranite 4.2 8BlowEmber-1nonevsMercury 2.5lowMiniMax M2.7mediumvsMistral Small 4noneMercury 2.5 PreviewlowvsMistral Small 4noneMistral Small 4nonevsLaguna S 2.1low無料で利用可能