AI BENCHY Compare

Anthropic: Claude Opus 4.8 vs Inception: Mercury 2

Сводка

Сравнение benchmark Claude Opus 4.8 vs Mercury 2: Claude Opus 4.8 лидирует по среднему баллу: 7.0 vs 6.6. Mercury 2 имеет более низкую стоимость benchmark: $0.058 vs $0.539. Mercury 2 быстрее: 2.24s vs 3.47s, с долей успешных попыток 61.9% vs 54.0%.

Рекомендуемая модель: Mercury 2 - Его балл близок к лучшему здесь (6.6 против 7.0), при этом он примерно в 9.3 раза дешевле, чем Claude Opus 4.8.

Бенчмарки сгенерированы из тестовых наборов AI BENCHY в: 2026-06-04

Метрика	Claude Opus 4.8 Claude Opus 4.8 none Релиз: 2026-05-28	Mercury 2 Mercury 2 medium Релиз: 2026-02-24

Метрика	Claude Opus 4.8 Claude Opus 4.8 none Релиз: 2026-05-28	Mercury 2 Mercury 2 medium Релиз: 2026-02-24
Оценка	7.0	6.6
Ранг	#68	#81
Надежность	10.0	10.0
Стабильность	9.2	8.8
Тестов верно
Доля успешных попыток	61.9%	54.0%
Нестабильные тесты	2	3
Всего запусков	63	63
Стоимость за результат	4.485	0.578
Общая стоимость	$0.539	$0.058
Цена входа	$5.000 / 1M	$0.250 / 1M
Цена выхода	$25.000 / 1M	$0.750 / 1M
Общее число входных токенов	67,104	35,116
Выходные токены	8,107	4,048
Токены рассуждений	0	61,219
Время ответа (среднее)	3.47s	2.24s
Время ответа (макс.)	17.73s	14.63s
Время ответа (суммарно)	72.90s	44.72s

Generation showcase

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#68 Claude Opus 4.8

none

Cost: $0.053
Time: 22.0s
Tokens: 2,253 tok

#81 Mercury 2

medium

Cost: $0.002
Time: 2.1s
Tokens: 1,702 tok

Лучшие модели по оценке

Оценка vs общая стоимость

Время ответа (среднее)

Оценка vs Время ответа (среднее)

Общее число выходных токенов

Оценка vs Общее число выходных токенов

Разбивка по категориям

Анти-ИИ уловки	Оценка	Стабильность	Доля успешных попыток	Нестабильные тесты	Тестов верно	Время ответа (среднее)	Входные токены	Выходные токены	Токены рассуждений
Claude Opus 4.8	6.5	10.0	50.0%	0		3.40s	834	1,472	0
Mercury 2	6.9	9.9	50.0%	0		1.12s	554	2,546	2,609

Программирование	Оценка	Стабильность	Доля успешных попыток	Нестабильные тесты	Тестов верно	Время ответа (среднее)	Входные токены	Выходные токены	Токены рассуждений
Claude Opus 4.8	5.5	10.0	33.3%	0		3.29s	10,590	1,332	0
Mercury 2	8.2	7.7	77.8%	1		2.04s	7,065	296	11,328

Комбинированный	Оценка	Стабильность	Доля успешных попыток	Нестабильные тесты	Тестов верно	Время ответа (среднее)	Входные токены	Выходные токены	Токены рассуждений
Claude Opus 4.8	9.5	10.0	100.0%	0		17.73s	29,658	3,259	0
Mercury 2	10.0	10.0	100.0%	0		3.28s	12,909	268	4,887

Парсинг и извлечение данных	Оценка	Стабильность	Доля успешных попыток	Нестабильные тесты	Тестов верно	Время ответа (среднее)	Входные токены	Выходные токены	Токены рассуждений
Claude Opus 4.8	7.3	5.8	83.3%	1		1.77s	10,503	308	0
Mercury 2	7.3	5.9	83.3%	1		1.11s	6,234	183	1,656

Предметно-ориентированное	Оценка	Стабильность	Доля успешных попыток	Нестабильные тесты	Тестов верно	Время ответа (среднее)	Входные токены	Выходные токены	Токены рассуждений
Claude Opus 4.8	5.3	7.2	44.4%	1		1.66s	975	61	0
Mercury 2	2.9	7.2	11.1%	1		6.48s	695	41	30,754

Общий интеллект	Оценка	Стабильность	Доля успешных попыток	Нестабильные тесты	Тестов верно	Время ответа (среднее)	Входные токены	Выходные токены	Токены рассуждений
Claude Opus 4.8	10.0	10.0	100.0%	0		3.48s	708	230	0
Mercury 2	4.8	10.0	0.0%	0		821ms	456	137	542

Следование инструкциям	Оценка	Стабильность	Доля успешных попыток	Нестабильные тесты	Тестов верно	Время ответа (среднее)	Входные токены	Выходные токены	Токены рассуждений
Claude Opus 4.8	9.9	10.0	100.0%	0		1.37s	909	95	0
Mercury 2	10.0	10.0	100.0%	0		1.07s	340	14	958

Решение головоломок	Оценка	Стабильность	Доля успешных попыток	Нестабильные тесты	Тестов верно	Время ответа (среднее)	Входные токены	Выходные токены	Токены рассуждений
Claude Opus 4.8	7.7	10.0	66.7%	0		2.74s	894	783	0
Mercury 2	5.4	10.0	33.3%	0		949ms	601	361	2,781

Вызов инструментов	Оценка	Стабильность	Доля успешных попыток	Нестабильные тесты	Тестов верно	Время ответа (среднее)	Входные токены	Выходные токены	Токены рассуждений
Claude Opus 4.8	10.0	10.0	100.0%	0		5.35s	11,775	355	0
Mercury 2	10.0	10.0	100.0%	0		1.89s	6,080	180	1,956

Эрудиция	Оценка	Стабильность	Доля успешных попыток	Нестабильные тесты	Тестов верно	Время ответа (среднее)	Входные токены	Выходные токены	Токены рассуждений
Claude Opus 4.8	3.0	10.0	0.0%	0		3.41s	258	212	0
Mercury 2	3.0	10.0	0.0%	0		2.58s	182	22	3,748

Быстрое сравнение

Сменить пару сравнения