AI BENCHY Compare

Anthropic: Claude Opus 4.8 vs Inception: Mercury 2

Ringkasan

Perbandingan benchmark Claude Opus 4.8 (low) vs Mercury 2 (medium): Claude Opus 4.8 (low) unggul dalam skor rata-rata dengan 7.7 vs 7.5. Mercury 2 (medium) memiliki biaya benchmark lebih rendah di $0.058 vs $1.270. Mercury 2 (medium) lebih cepat di 2.24s vs 10.83s, dengan tingkat keberhasilan 79.4% vs 54.0%.

Model yang direkomendasikan: Mercury 2 (medium) - Its score stays close to the best score here (7.5 vs 7.7), while costing about 22.0x less than Claude Opus 4.8 (low).

Benchmark dihasilkan dari suite pengujian AI BENCHY pada: 2026-07-09

Metrik	Claude Opus 4.8 Claude Opus 4.8 low Rilis: 2026-05-28	Mercury 2 Mercury 2 medium Rilis: 2026-02-24

Metrik	Claude Opus 4.8 Claude Opus 4.8 low Rilis: 2026-05-28	Mercury 2 Mercury 2 medium Rilis: 2026-02-24
Skor	7.7	7.5
Peringkat	#45	#56
Keandalan	10.0	10.0
Konsistensi	8.8	8.8
Tes benar
Tingkat lulus per percobaan	79.4%	54.0%
Tes tidak stabil	3	3
Total Run	63	63
Biaya per hasil	8.466	0.578
Total Biaya	$1.270	$0.058
Harga input	$5.000 / 1M	$0.250 / 1M
Harga output	$25.000 / 1M	$0.750 / 1M
Total token input	60,946	35,116
Token output	31,771	4,048
Token penalaran	6,831	61,219
Waktu respons (rata-rata)	10.83s	2.24s
Waktu respons (maks)	127.97s	14.63s
Waktu respons (total)	227.39s	44.72s

Showcase generasi

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#45 Claude Opus 4.8

low

Biaya: $0.031
Waktu: 14.1s
Token: 1,345 tok

#56 Mercury 2

medium

Biaya: $0.002
Waktu: 2.1s
Token: 1,702 tok

Model teratas berdasarkan skor

Skor vs Total Biaya

Waktu respons (rata-rata)

Skor vs Waktu respons (rata-rata)

Total token output

Skor vs Total token output

Rincian Kategori

Trik anti-AI	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Opus 4.8	10.0	10.0	100.0%	0		3.30s	834	793	371
Mercury 2	6.9	9.9	50.0%	0		1.12s	554	2,546	2,609

Pemrograman	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Opus 4.8	6.6	4.6	77.8%	2		7.58s	10,590	3,637	809
Mercury 2	8.2	7.7	77.8%	1		2.04s	7,065	296	11,328

Gabungan	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Opus 4.8	9.8	10.0	100.0%	0		20.84s	23,500	2,216	1,081
Mercury 2	10.0	10.0	100.0%	0		3.28s	12,909	268	4,887

Parsing dan ekstraksi data	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Opus 4.8	6.3	5.8	66.7%	1		2.27s	10,503	310	0
Mercury 2	7.3	5.9	83.3%	1		1.11s	6,234	183	1,656

Spesifik domain	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Opus 4.8	5.3	10.0	33.3%	0		45.53s	975	23,311	3,908
Mercury 2	2.9	7.2	11.1%	1		6.48s	695	41	30,754

Kecerdasan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Opus 4.8	10.0	10.0	100.0%	0		2.55s	708	231	0
Mercury 2	4.8	10.0	0.0%	0		821ms	456	137	542

Kepatuhan instruksi	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Opus 4.8	9.8	10.0	100.0%	0		2.78s	909	111	221
Mercury 2	10.0	10.0	100.0%	0		1.07s	340	14	958

Pemecahan teka-teki	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Opus 4.8	10.0	10.0	100.0%	0		3.01s	894	592	184
Mercury 2	5.4	10.0	33.3%	0		949ms	601	361	2,781

Pemanggilan alat	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Opus 4.8	10.0	10.0	100.0%	0		6.85s	11,775	370	35
Mercury 2	10.0	10.0	100.0%	0		1.89s	6,080	180	1,956

Pengetahuan umum	Skor	Konsistensi	Tingkat lulus per percobaan	Tes tidak stabil	Tes benar	Waktu respons (rata-rata)	Token input	Token output	Token penalaran
Claude Opus 4.8	3.0	10.0	0.0%	0		5.48s	258	200	222
Mercury 2	3.0	10.0	0.0%	0		2.58s	182	22	3,748

Perbandingan Cepat

Ganti Pasangan Perbandingan