ナビゲーション
AI BENCHY
Advertise here

AI BENCHY Compare

Inception: Mercury 2 vs StepFun: Step 3.7 Flash

概要

Mercury 2 vs Step 3.7 Flash の benchmark 比較: Step 3.7 Flash が平均スコアでリードし、7.0 vs 6.6 です。 Mercury 2 の benchmark コストが低く、$0.058 vs $1.148 です。 Mercury 2 の方が高速で、2.24s vs 64.46s です、成功率は 54.0% vs 63.5% です。

おすすめモデル: Mercury 2 - スコアはここでの最高値に近く(6.6 vs 7.0)、Step 3.7 Flash より約 19.9 倍低コストです。

ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-06-04

指標 Mercury 2 Mercury 2 medium リリース: 2026-02-24 Step 3.7 Flash Step 3.7 Flash high リリース: 2026-05-29
スコア 6.6 7.0
順位 #81 #71
信頼性 10.0 10.0
一貫性 8.8 8.2
正解テスト
試行ごとの合格率 54.0% 63.5%
不安定なテスト 3 4
総実行回数 63 63
結果あたりのコスト 0.578 10.434
合計コスト $0.058 $1.148
入力価格 $0.250 / 1M $0.200 / 1M
出力価格 $0.750 / 1M $1.150 / 1M
合計入力トークン 35,116 38,391
出力トークン 4,048 991,355
推論トークン 61,219 0
応答時間(平均) 2.24s 64.46s
応答時間(最大) 14.63s 364.99s
応答時間(合計) 44.72s 1353.57s

Generation showcase

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#81 Mercury 2

medium
Cost
$0.002
Time
2.1s
Tokens
1,702 tok

#71 Step 3.7 Flash

high
Cost
$0.007
Time
63.6s
Tokens
6,030 tok

スコア上位モデル

スコア vs 総コスト

応答時間(平均)

スコア vs 応答時間(平均)

合計出力トークン

スコア vs 合計出力トークン

カテゴリ内訳

反AIトリック スコア 一貫性 試行ごとの合格率 不安定なテスト 正解テスト 応答時間(平均) 入力トークン 出力トークン 推論トークン
Mercury 2 6.9 9.9 50.0% 0 1.12s 554 2,546 2,609
Step 3.7 Flash 10.0 10.0 100.0% 0 13.40s 696 42,656 0
コーディング スコア 一貫性 試行ごとの合格率 不安定なテスト 正解テスト 応答時間(平均) 入力トークン 出力トークン 推論トークン
Mercury 2 8.2 7.7 77.8% 1 2.04s 7,065 296 11,328
Step 3.7 Flash 4.0 6.0 22.2% 1 206.21s 6,057 327,340 0
複合 スコア 一貫性 試行ごとの合格率 不安定なテスト 正解テスト 応答時間(平均) 入力トークン 出力トークン 推論トークン
Mercury 2 10.0 10.0 100.0% 0 3.28s 12,909 268 4,887
Step 3.7 Flash 10.0 10.0 100.0% 0 13.01s 13,638 8,802 0
データ解析と抽出 スコア 一貫性 試行ごとの合格率 不安定なテスト 正解テスト 応答時間(平均) 入力トークン 出力トークン 推論トークン
Mercury 2 7.3 5.9 83.3% 1 1.11s 6,234 183 1,656
Step 3.7 Flash 10.0 10.0 100.0% 0 14.72s 7,368 23,113 0
ドメイン特化 スコア 一貫性 試行ごとの合格率 不安定なテスト 正解テスト 応答時間(平均) 入力トークン 出力トークン 推論トークン
Mercury 2 2.9 7.2 11.1% 1 6.48s 695 41 30,754
Step 3.7 Flash 4.1 4.4 44.5% 2 149.64s 783 410,502 0
汎用知能 スコア 一貫性 試行ごとの合格率 不安定なテスト 正解テスト 応答時間(平均) 入力トークン 出力トークン 推論トークン
Mercury 2 4.8 10.0 0.0% 0 821ms 456 137 542
Step 3.7 Flash 5.5 10.0 0.0% 0 4.17s 510 2,862 0
指示追従 スコア 一貫性 試行ごとの合格率 不安定なテスト 正解テスト 応答時間(平均) 入力トークン 出力トークン 推論トークン
Mercury 2 10.0 10.0 100.0% 0 1.07s 340 14 958
Step 3.7 Flash 9.8 10.0 100.0% 0 1.52s 705 2,010 0
パズル解決 スコア 一貫性 試行ごとの合格率 不安定なテスト 正解テスト 応答時間(平均) 入力トークン 出力トークン 推論トークン
Mercury 2 5.4 10.0 33.3% 0 949ms 601 361 2,781
Step 3.7 Flash 5.3 7.2 44.4% 1 10.22s 711 25,422 0
ツール呼び出し スコア 一貫性 試行ごとの合格率 不安定なテスト 正解テスト 応答時間(平均) 入力トークン 出力トークン 推論トークン
Mercury 2 10.0 10.0 100.0% 0 1.89s 6,080 180 1,956
Step 3.7 Flash 10.0 10.0 100.0% 0 2.79s 7,701 1,172 0
雑学 スコア 一貫性 試行ごとの合格率 不安定なテスト 正解テスト 応答時間(平均) 入力トークン 出力トークン 推論トークン
Mercury 2 3.0 10.0 0.0% 0 2.58s 182 22 3,748
Step 3.7 Flash 3.0 10.0 0.0% 0 149.34s 222 147,476 0

クイック比較

比較ペアを切り替え