Тест считается полностью пройденным, только если все его прогоны успешны.Лишнее форматирование: 3Неверный ответ: 2Время ответа (среднее)5.94sВремя ответа (макс.)23.84sВремя ответа (суммарно)47.55sТест считается полностью пройденным, только если все его прогоны успешны.…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 5Не соблюдены инструкции: 3Время ответа (среднее)2.47sВремя ответа (макс.)14.63sВремя ответа (суммарно)34.56sТест считается полностью пройденным, только если все его прогоны успешны.…
Стабильность
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
8.3Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
Стоимость за результат
2.460Показывает среднюю стоимость одного правильного ответа в бенчмарке в центах (меньше — лучше).…
0.622Показывает среднюю стоимость одного правильного ответа в бенчмарке в центах (меньше — лучше).…
Общая стоимость
$0.246Общая стоимость…
$0.044Общая стоимость…
Доля успешных попыток
66.7%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
57.8%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
Нестабильные тесты
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
3Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
common.totalRuns
45 (15 x 3)common.totalRuns…
45 (15 x 3)common.totalRuns…
Выходные токены
6,703Выходные токены…
3,571Выходные токены…
Токены рассуждений
0Токены рассуждений…
45,379Токены рассуждений…
Время ответа (среднее)
5.94sВремя ответа (среднее)…
2.47sВремя ответа (среднее)…
Время ответа (макс.)
23.84sВремя ответа (макс.)…
14.63sВремя ответа (макс.)…
Время ответа (суммарно)
47.55sВремя ответа (суммарно)…
34.56sВремя ответа (суммарно)…
Лучшие модели по оценке
Оценка vs общая стоимость
Время ответа (среднее)
Средний балл vs Время ответа (среднее)
Разбивка по категориям
Анти-ИИ уловки
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Sonnet 4.6
4.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
33.3%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Лишнее форматирование: 2Время ответа (среднее)4.83sВремя ответа (макс.)4.83sВремя ответа (суммарно)4.83sТест считается полностью пройденным, только если все его прогоны успешны.…
4.83sВремя ответа (среднее)…
1,199Выходные токены…
0Токены рассуждений…
Inception: Mercury 2
7.3Средний балл по всем бенчмарк-тестам.…
9.8Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
66.7%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Не соблюдены инструкции: 1Время ответа (среднее)1.30sВремя ответа (макс.)2.46sВремя ответа (суммарно)3.89sТест считается полностью пройденным, только если все его прогоны успешны.…
1.30sВремя ответа (среднее)…
2,531Выходные токены…
2,410Токены рассуждений…
Комбинированный
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Sonnet 4.6
9.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)23.84sВремя ответа (макс.)23.84sВремя ответа (суммарно)23.84sТест считается полностью пройденным, только если все его прогоны успешны.…
23.84sВремя ответа (среднее)…
3,766Выходные токены…
0Токены рассуждений…
Inception: Mercury 2
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)3.28sВремя ответа (макс.)3.28sВремя ответа (суммарно)3.28sТест считается полностью пройденным, только если все его прогоны успешны.…
3.28sВремя ответа (среднее)…
268Выходные токены…
4,887Токены рассуждений…
Парсинг и извлечение данных
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Sonnet 4.6
9.9Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)3.43sВремя ответа (макс.)3.43sВремя ответа (суммарно)3.43sТест считается полностью пройденным, только если все его прогоны успешны.…
3.43sВремя ответа (среднее)…
252Выходные токены…
0Токены рассуждений…
Inception: Mercury 2
5.5Средний балл по всем бенчмарк-тестам.…
5.9Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
83.3%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 1Время ответа (среднее)1.11sВремя ответа (макс.)1.47sВремя ответа (суммарно)2.21sТест считается полностью пройденным, только если все его прогоны успешны.…
1.11sВремя ответа (среднее)…
183Выходные токены…
1,656Токены рассуждений…
Предметно-ориентированное
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Sonnet 4.6
7.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
66.7%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 1Время ответа (среднее)3.54sВремя ответа (макс.)3.54sВремя ответа (суммарно)3.54sТест считается полностью пройденным, только если все его прогоны успешны.…
3.54sВремя ответа (среднее)…
413Выходные токены…
0Токены рассуждений…
Inception: Mercury 2
10.0Средний балл по всем бенчмарк-тестам.…
7.2Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
11.1%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 3Время ответа (среднее)6.48sВремя ответа (макс.)14.63sВремя ответа (суммарно)19.43sТест считается полностью пройденным, только если все его прогоны успешны.…
6.48sВремя ответа (среднее)…
41Выходные токены…
30,754Токены рассуждений…
Следование инструкциям
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Sonnet 4.6
5.5Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
50.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 1Время ответа (среднее)1.96sВремя ответа (макс.)1.96sВремя ответа (суммарно)1.96sТест считается полностью пройденным, только если все его прогоны успешны.…
1.96sВремя ответа (среднее)…
90Выходные токены…
0Токены рассуждений…
Inception: Mercury 2
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)1.07sВремя ответа (макс.)1.07sВремя ответа (суммарно)1.07sТест считается полностью пройденным, только если все его прогоны успешны.…
1.07sВремя ответа (среднее)…
14Выходные токены…
958Токены рассуждений…
Puzzle Solving
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Sonnet 4.6
7.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
66.7%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Лишнее форматирование: 1Время ответа (среднее)2.92sВремя ответа (макс.)3.33sВремя ответа (суммарно)5.84sТест считается полностью пройденным, только если все его прогоны успешны.…
2.92sВремя ответа (среднее)…
536Выходные токены…
0Токены рассуждений…
Inception: Mercury 2
1.7Средний балл по всем бенчмарк-тестам.…
7.5Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
22.2%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Не соблюдены инструкции: 2Неверный ответ: 1Время ответа (среднее)934msВремя ответа (макс.)1.18sВремя ответа (суммарно)2.80sТест считается полностью пройденным, только если все его прогоны успешны.…
934msВремя ответа (среднее)…
354Выходные токены…
2,758Токены рассуждений…
Вызов инструментов
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Sonnet 4.6
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)4.11sВремя ответа (макс.)4.11sВремя ответа (суммарно)4.11sТест считается полностью пройденным, только если все его прогоны успешны.…
4.11sВремя ответа (среднее)…
447Выходные токены…
0Токены рассуждений…
Inception: Mercury 2
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)1.89sВремя ответа (макс.)1.89sВремя ответа (суммарно)1.89sТест считается полностью пройденным, только если все его прогоны успешны.…