AI BENCHY Compare

Inception: Mercury 2 vs StepFun: Step 3.7 Flash

概要

Mercury 2 vs Step 3.7 Flash の benchmark 比較: Step 3.7 Flash が平均スコアでリードし、7.7 vs 7.5 です。 Mercury 2 の benchmark コストが低く、$0.058 vs $0.341 です。 Mercury 2 の方が高速で、2.24s vs 15.74s です、成功率は 54.0% vs 68.3% です。

おすすめモデル: Mercury 2 - スコアはここでの最高値に近く（7.5 vs 7.7）、Step 3.7 Flash より約 5.9 倍低コストです。

ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-06-12

指標	Mercury 2 Mercury 2 medium リリース: 2026-02-24	Step 3.7 Flash Step 3.7 Flash low リリース: 2026-05-29

指標	Mercury 2 Mercury 2 medium リリース: 2026-02-24	Step 3.7 Flash Step 3.7 Flash low リリース: 2026-05-29
スコア	7.5	7.7
順位	#46	#42
信頼性	10.0	10.0
一貫性	8.8	8.4
正解テスト
試行ごとの合格率	54.0%	68.3%
不安定なテスト	3	4
総実行回数	63	63
結果あたりのコスト	0.578	2.840
合計コスト	$0.058	$0.341
入力価格	$0.250 / 1M	$0.200 / 1M
出力価格	$0.750 / 1M	$1.150 / 1M
合計入力トークン	35,116	40,101
出力トークン	4,048	289,325
推論トークン	61,219	0
応答時間（平均）	2.24s	15.74s
応答時間（最大）	14.63s	124.75s
応答時間（合計）	44.72s	330.63s

Generation showcase

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#46 Mercury 2

medium

Cost: $0.002
Time: 2.1s
Tokens: 1,702 tok

#42 Step 3.7 Flash

low

Invalid SVG

Cost: $0.004
Time: 25.3s
Tokens: 3,072 tok

スコア上位モデル

スコア vs 総コスト

応答時間（平均）

スコア vs 応答時間（平均）

合計出力トークン

スコア vs 合計出力トークン

カテゴリ内訳

反AIトリック	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Mercury 2	6.9	9.9	50.0%	0		1.12s	554	2,546	2,609
Step 3.7 Flash	8.7	7.9	91.7%	1		4.02s	756	10,896	0

コーディング	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Mercury 2	8.2	7.7	77.8%	1		2.04s	7,065	296	11,328
Step 3.7 Flash	8.2	7.2	88.9%	1		9.46s	7,437	18,685	0

複合	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Mercury 2	10.0	10.0	100.0%	0		3.28s	12,909	268	4,887
Step 3.7 Flash	10.0	10.0	100.0%	0		7.98s	13,683	6,426	0

データ解析と抽出	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Mercury 2	7.3	5.9	83.3%	1		1.11s	6,234	183	1,656
Step 3.7 Flash	7.3	5.8	83.3%	1		2.29s	7,398	2,667	0

ドメイン特化	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Mercury 2	2.9	7.2	11.1%	1		6.48s	695	41	30,754
Step 3.7 Flash	5.3	7.2	44.4%	1		43.31s	828	104,487	0

汎用知能	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Mercury 2	4.8	10.0	0.0%	0		821ms	456	137	542
Step 3.7 Flash	3.4	9.3	0.0%	0		7.00s	525	4,604	0

指示追従	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Mercury 2	10.0	10.0	100.0%	0		1.07s	340	14	958
Step 3.7 Flash	9.8	10.0	100.0%	0		1.58s	735	1,857	0

パズル解決	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Mercury 2	5.4	10.0	33.3%	0		949ms	601	361	2,781
Step 3.7 Flash	5.5	9.9	33.3%	0		1.84s	756	3,564	0

ツール呼び出し	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Mercury 2	10.0	10.0	100.0%	0		1.89s	6,080	180	1,956
Step 3.7 Flash	10.0	10.0	100.0%	0		3.25s	7,746	1,360	0

雑学	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Mercury 2	3.0	10.0	0.0%	0		2.58s	182	22	3,748
Step 3.7 Flash	3.0	10.0	0.0%	0		124.75s	237	134,779	0

クイック比較

比較ペアを切り替え