Ember-1 (high) vs Step 3.7 Flash (low)

Model yang Dibandingkan

Model yang direkomendasikan Step 3.7 Flash (low)

It has the best score here (7.1), while costing about 4.6x less than Ember-1 (high).

Metrik	Ember-1 Ember-1 high Rilis: 2026-09-28	Step 3.7 Flash Step 3.7 Flash low Rilis: 2026-05-29

Metrik	Ember-1 Ember-1 high Rilis: 2026-09-28	Step 3.7 Flash Step 3.7 Flash low Rilis: 2026-05-29
Skor	7.1	7.1
Peringkat	#158	#155
Keandalan	8.0	10.0
Konsistensi	7.3	8.1
Percobaan	66/66	66/66
Tes benar
Tingkat lulus per percobaan	71.2%	63.6%
Tes tidak stabil	7	5
Total Run	66	66
Biaya per hasil	14.981	3.539
Total Biaya	$1.798	$0.390
Harga input	$3.000 / 1M	$0.200 / 1M
Harga output	$15.000 / 1M	$1.150 / 1M
Total token input	48,577	103,842
Token output	7,345	320,393
Token penalaran	102,780	0
Waktu respons (rata-rata)	56.77s	17.87s
Waktu respons (maks)	255.06s	124.75s
Waktu respons (total)	1248.88s	393.04s
Parameter	~2.8T total (~104B aktif)	198B total (11B aktif)
Ketersediaan	Tertutup	Sumber terbuka

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

high

low

SVG tidak valid

Kategori:

Trik anti-AI	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Ember-1	8.7	7.9	91.7%	1		24.05s	1,544	886	992
Step 3.7 Flash	8.7	7.9	91.7%	1		4.02s	756	10,896	0

Pemrograman	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Ember-1	8.2	7.2	88.9%	1		72.23s	7,144	1,281	23,093
Step 3.7 Flash	8.2	7.2	88.9%	1		9.46s	7,437	18,685	0

Gabungan	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Ember-1	6.4	5.8	66.7%	1		79.89s	28,994	1,667	6,614
Step 3.7 Flash	7.3	5.8	83.3%	1		66.18s	77,415	93,682	0

Parsing dan ekstraksi data	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Ember-1	7.3	5.9	83.3%	1		36.10s	6,076	230	1,228
Step 3.7 Flash	7.3	5.8	83.3%	1		2.29s	7,398	2,667	0

Spesifik domain	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Ember-1	2.9	4.4	22.2%	2		175.49s	1,154	1,023	61,582
Step 3.7 Flash	2.9	7.2	11.1%	1		22.65s	837	48,299	0

Kecerdasan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Ember-1	10.0	10.0	100.0%	0		4.49s	744	194	304
Step 3.7 Flash	3.4	9.3	0.0%	0		7.00s	525	4,604	0

Kepatuhan instruksi	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Ember-1	7.1	5.8	83.3%	1		33.38s	992	162	784
Step 3.7 Flash	9.8	10.0	100.0%	0		1.58s	735	1,857	0

Pemecahan teka-teki	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Ember-1	10.0	10.0	100.0%	0		4.84s	1,452	390	848
Step 3.7 Flash	5.5	9.9	33.3%	0		1.84s	756	3,564	0

Pemanggilan alat	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Ember-1	3.0	10.0	0.0%	0		26.45s	0	0	0
Step 3.7 Flash	10.0	10.0	100.0%	0		3.25s	7,746	1,360	0

Pengetahuan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Ember-1	3.0	10.0	0.0%	0		65.34s	477	1,512	7,335
Step 3.7 Flash	3.0	10.0	0.0%	0		124.75s	237	134,779	0

Ganti Pasangan Perbandingan