Тест считается полностью пройденным, только если все его прогоны успешны.Лишнее форматирование: 4Неверный ответ: 2Время ответа (среднее)25.08sВремя ответа (макс.)83.40sВремя ответа (суммарно)200.67sТест считается полностью пройденным, только если все его прогоны успешны.…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 4Не соблюдены инструкции: 1Время ответа (среднее)1.37sВремя ответа (макс.)3.39sВремя ответа (суммарно)20.53sТест считается полностью пройденным, только если все его прогоны успешны.…
Стабильность
8.9Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
9.6Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
Стоимость за результат
14.411Показывает среднюю стоимость одного правильного ответа в бенчмарке в центах (меньше — лучше).…
0.142Показывает среднюю стоимость одного правильного ответа в бенчмарке в центах (меньше — лучше).…
Общая стоимость
$1.297Общая стоимость…
$0.015Общая стоимость…
Доля успешных попыток
64.4%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
71.1%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
Нестабильные тесты
2Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
common.totalRuns
45 (15 x 3)common.totalRuns…
45 (15 x 3)common.totalRuns…
Выходные токены
26,066Выходные токены…
4,646Выходные токены…
Токены рассуждений
17,071Токены рассуждений…
0Токены рассуждений…
Время ответа (среднее)
25.08sВремя ответа (среднее)…
1.37sВремя ответа (среднее)…
Время ответа (макс.)
83.40sВремя ответа (макс.)…
3.39sВремя ответа (макс.)…
Время ответа (суммарно)
200.67sВремя ответа (суммарно)…
20.53sВремя ответа (суммарно)…
Лучшие модели по оценке
Оценка vs общая стоимость
Время ответа (среднее)
Средний балл vs Время ответа (среднее)
Разбивка по категориям
Анти-ИИ уловки
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Opus 4.6
4.0Средний балл по всем бенчмарк-тестам.…
4.4Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
55.6%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
2Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Лишнее форматирование: 2Время ответа (среднее)11.88sВремя ответа (макс.)11.88sВремя ответа (суммарно)11.88sТест считается полностью пройденным, только если все его прогоны успешны.…
11.88sВремя ответа (среднее)…
897Выходные токены…
1,000Токены рассуждений…
Google: Gemini 3.1 Flash Lite Preview
6.0Средний балл по всем бенчмарк-тестам.…
7.8Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
55.6%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
1Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Не соблюдены инструкции: 1Неверный ответ: 1Время ответа (среднее)1.16sВремя ответа (макс.)1.47sВремя ответа (суммарно)3.49sТест считается полностью пройденным, только если все его прогоны успешны.…
1.16sВремя ответа (среднее)…
1,086Выходные токены…
0Токены рассуждений…
Комбинированный
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Opus 4.6
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)76.66sВремя ответа (макс.)76.66sВремя ответа (суммарно)76.66sТест считается полностью пройденным, только если все его прогоны успешны.…
76.66sВремя ответа (среднее)…
8,178Выходные токены…
5,194Токены рассуждений…
Google: Gemini 3.1 Flash Lite Preview
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
0.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 1Время ответа (среднее)3.20sВремя ответа (макс.)3.20sВремя ответа (суммарно)3.20sТест считается полностью пройденным, только если все его прогоны успешны.…
3.20sВремя ответа (среднее)…
339Выходные токены…
0Токены рассуждений…
Парсинг и извлечение данных
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Opus 4.6
9.9Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)7.37sВремя ответа (макс.)7.37sВремя ответа (суммарно)7.37sТест считается полностью пройденным, только если все его прогоны успешны.…
7.37sВремя ответа (среднее)…
691Выходные токены…
757Токены рассуждений…
Google: Gemini 3.1 Flash Lite Preview
9.9Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)1.22sВремя ответа (макс.)1.33sВремя ответа (суммарно)2.44sТест считается полностью пройденным, только если все его прогоны успешны.…
1.22sВремя ответа (среднее)…
399Выходные токены…
0Токены рассуждений…
Предметно-ориентированное
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Opus 4.6
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
0.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Лишнее форматирование: 2Неверный ответ: 1Время ответа (среднее)83.40sВремя ответа (макс.)83.40sВремя ответа (суммарно)83.40sТест считается полностью пройденным, только если все его прогоны успешны.…
83.40sВремя ответа (среднее)…
14,642Выходные токены…
8,687Токены рассуждений…
Google: Gemini 3.1 Flash Lite Preview
4.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
33.3%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 2Время ответа (среднее)942msВремя ответа (макс.)1.12sВремя ответа (суммарно)2.83sТест считается полностью пройденным, только если все его прогоны успешны.…
942msВремя ответа (среднее)…
568Выходные токены…
0Токены рассуждений…
Следование инструкциям
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Opus 4.6
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)2.43sВремя ответа (макс.)2.43sВремя ответа (суммарно)2.43sТест считается полностью пройденным, только если все его прогоны успешны.…
2.43sВремя ответа (среднее)…
266Выходные токены…
467Токены рассуждений…
Google: Gemini 3.1 Flash Lite Preview
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)1.13sВремя ответа (макс.)1.14sВремя ответа (суммарно)2.27sТест считается полностью пройденным, только если все его прогоны успешны.…
1.13sВремя ответа (среднее)…
574Выходные токены…
0Токены рассуждений…
Puzzle Solving
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Opus 4.6
7.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
66.7%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Неверный ответ: 1Время ответа (среднее)4.60sВремя ответа (макс.)4.66sВремя ответа (суммарно)9.20sТест считается полностью пройденным, только если все его прогоны успешны.…
4.60sВремя ответа (среднее)…
531Выходные токены…
637Токены рассуждений…
Google: Gemini 3.1 Flash Lite Preview
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)972msВремя ответа (макс.)1.13sВремя ответа (суммарно)2.92sТест считается полностью пройденным, только если все его прогоны успешны.…
972msВремя ответа (среднее)…
898Выходные токены…
0Токены рассуждений…
Вызов инструментов
Оценка
Стабильность
Доля успешных попыток
Нестабильные тесты
Тестов верно
Время ответа (среднее)
Выходные токены
Токены рассуждений
Anthropic: Claude Opus 4.6
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)9.73sВремя ответа (макс.)9.73sВремя ответа (суммарно)9.73sТест считается полностью пройденным, только если все его прогоны успешны.…
9.73sВремя ответа (среднее)…
861Выходные токены…
329Токены рассуждений…
Google: Gemini 3.1 Flash Lite Preview
10.0Средний балл по всем бенчмарк-тестам.…
10.0Оценка стабильности отражает устойчивость между прогонами (10 = очень стабильно, даже если стабильно неверно).…
100.0%Доля успешных попыток = успешные попытки / все попытки по всем прогонам.…
0Нестабильные тесты имели смешанные результаты между прогонами (как минимум один успех и один провал).…
Тест считается полностью пройденным, только если все его прогоны успешны.Нет проваленных ответов.Время ответа (среднее)3.39sВремя ответа (макс.)3.39sВремя ответа (суммарно)3.39sТест считается полностью пройденным, только если все его прогоны успешны.…