Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 11Время ответа (среднее)594msВремя ответа (макс.)1.27sВремя ответа (суммарно)8.91sТест считается полностью пройденным, только если все его прогоны успешны.…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 5Не соблюдены инструкции: 2Тайм-аут: 2invalid tool call: 1Время ответа (среднее)47.58sВремя ответа (макс.)237.27sВремя ответа (суммарно)380.62sТест считается полностью пройденным, только если все его прогоны успешны.…
Ранг
#50
#42
Стабильность
8.9Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
5.8Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
Стоимость за результат
0.147Показывает среднюю стоимость одного правильного ответа в бенчмарке в центах (меньше — лучше).…
4.937Показывает среднюю стоимость одного правильного ответа в бенчмарке в центах (меньше — лучше).…
Общая стоимость
$0.006Общая стоимость…
$0.247Общая стоимость…
Доля успешных попыток
33.3%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
62.2%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
Нестабильные тесты
2Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
8Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
common.totalAttempts
45 (15 x 3)common.totalAttempts…
45 (15 x 3)common.totalAttempts…
Выходные токены
1,144Выходные токены…
107,019Выходные токены…
Токены рассуждений
0Токены рассуждений…
204,504Токены рассуждений…
Время ответа (среднее)
594msВремя ответа (среднее)…
47.58sВремя ответа (среднее)…
Время ответа (макс.)
1.27sВремя ответа (макс.)…
237.27sВремя ответа (макс.)…
Время ответа (суммарно)
8.91sВремя ответа (суммарно)…
380.62sВремя ответа (суммарно)…
Лучшие модели по оценке
Оценка vs общая стоимость
Время ответа (среднее)
Средний балл vs Время ответа (среднее)
Разбивка по категориям
Анти-ИИ уловки
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Inception: Mercury 2
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
0.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 3Время ответа (среднее)466msВремя ответа (макс.)716msВремя ответа (суммарно)1.40sТест считается полностью пройденным, только если все его прогоны успешны.…
466msВремя ответа (среднее)…
274Выходные токены…
0Токены рассуждений…
MiniMax: MiniMax M2.5
9.3Средний балл по всем бенчмарк-тестам.…
7.9Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
88.9%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Не соблюдены инструкции: 1Время ответа (среднее)32.42sВремя ответа (макс.)32.42sВремя ответа (суммарно)32.42sТест считается полностью пройденным, только если все его прогоны успешны.…
32.42sВремя ответа (среднее)…
286Выходные токены…
45,112Токены рассуждений…
Комбинированный
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Inception: Mercury 2
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
0.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 1Время ответа (среднее)606msВремя ответа (макс.)606msВремя ответа (суммарно)606msТест считается полностью пройденным, только если все его прогоны успешны.…
606msВремя ответа (среднее)…
131Выходные токены…
0Токены рассуждений…
MiniMax: MiniMax M2.5
10.0Средний балл по всем бенчмарк-тестам.…
2.1Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
66.7%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.invalid tool call: 1Время ответа (среднее)60.39sВремя ответа (макс.)60.39sВремя ответа (суммарно)60.39sТест считается полностью пройденным, только если все его прогоны успешны.…
60.39sВремя ответа (среднее)…
740Выходные токены…
9,713Токены рассуждений…
Парсинг и извлечение данных
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Inception: Mercury 2
5.5Средний балл по всем бенчмарк-тестам.…
5.9Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
83.3%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 1Время ответа (среднее)667msВремя ответа (макс.)819msВремя ответа (суммарно)1.33sТест считается полностью пройденным, только если все его прогоны успешны.…
667msВремя ответа (среднее)…
180Выходные токены…
0Токены рассуждений…
MiniMax: MiniMax M2.5
10.0Средний балл по всем бенчмарк-тестам.…
1.7Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
66.7%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
2Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 2Время ответа (среднее)7.48sВремя ответа (макс.)7.48sВремя ответа (суммарно)7.48sТест считается полностью пройденным, только если все его прогоны успешны.…
7.48sВремя ответа (среднее)…
266Выходные токены…
3,835Токены рассуждений…
Предметно-ориентированное
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Inception: Mercury 2
4.0Средний балл по всем бенчмарк-тестам.…
7.2Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
44.4%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 2Время ответа (среднее)534msВремя ответа (макс.)733msВремя ответа (суммарно)1.60sТест считается полностью пройденным, только если все его прогоны успешны.…
534msВремя ответа (среднее)…
46Выходные токены…
0Токены рассуждений…
MiniMax: MiniMax M2.5
10.0Средний балл по всем бенчмарк-тестам.…
4.4Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
22.2%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
2Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 2Тайм-аут: 1Время ответа (среднее)237.27sВремя ответа (макс.)237.27sВремя ответа (суммарно)237.27sТест считается полностью пройденным, только если все его прогоны успешны.…
237.27sВремя ответа (среднее)…
105,047Выходные токены…
133,487Токены рассуждений…
Следование инструкциям
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Inception: Mercury 2
5.5Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
50.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 1Время ответа (среднее)551msВремя ответа (макс.)622msВремя ответа (суммарно)1.10sТест считается полностью пройденным, только если все его прогоны успешны.…
551msВремя ответа (среднее)…
82Выходные токены…
0Токены рассуждений…
MiniMax: MiniMax M2.5
8.0Средний балл по всем бенчмарк-тестам.…
6.8Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
83.3%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Не соблюдены инструкции: 1Время ответа (среднее)4.64sВремя ответа (макс.)4.64sВремя ответа (суммарно)4.64sТест считается полностью пройденным, только если все его прогоны успешны.…
4.64sВремя ответа (среднее)…
252Выходные токены…
1,873Токены рассуждений…
Puzzle Solving
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Inception: Mercury 2
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
0.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 3Время ответа (среднее)533msВремя ответа (макс.)637msВремя ответа (суммарно)1.60sТест считается полностью пройденным, только если все его прогоны успешны.…
533msВремя ответа (среднее)…
234Выходные токены…
0Токены рассуждений…
MiniMax: MiniMax M2.5
4.0Средний балл по всем бенчмарк-тестам.…
7.2Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
44.4%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Тайм-аут: 1Неверный ответ: 1Время ответа (среднее)11.54sВремя ответа (макс.)17.37sВремя ответа (суммарно)23.08sТест считается полностью пройденным, только если все его прогоны успешны.…
11.54sВремя ответа (среднее)…
159Выходные токены…
9,547Токены рассуждений…
Вызов инструментов
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Inception: Mercury 2
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)1.27sВремя ответа (макс.)1.27sВремя ответа (суммарно)1.27sТест считается полностью пройденным, только если все его прогоны успешны.…
1.27sВремя ответа (среднее)…
197Выходные токены…
0Токены рассуждений…
MiniMax: MiniMax M2.5
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)15.35sВремя ответа (макс.)15.35sВремя ответа (суммарно)15.35sТест считается полностью пройденным, только если все его прогоны успешны.…