Orodha ya Uandishi wa msimbo x Jibu lisilo sahihi

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Jibu lisilo sahihi katika Uandishi wa msimbo, ili uone udhaifu haraka. Panga kwa: Majaribio sahihi ↓.

Modeli zilizoonyeshwa

Jumla ya kushindwa

230

Modeli iliyoathirika zaidi

Gemini 3 Flash Preview 1

Sababu za kushindwa

Jibu lisilo sahihi230 Hitilafu ya API43 Muda umeisha23 Hakuna jibu18 Hakufuata maelekezo16 Muundo wa ziada12

Kategoria

Mahususi kwa domeni367 Mbinu za kupinga AI270 Uandishi wa msimbo230 Utatuzi wa mafumbo172 Maarifa ya jumla149 Mchanganyiko58 Ufuataji wa maagizo56 Akili ya jumla49 Uchanganuzi na uchimbaji wa data36 Mwito wa zana3

134/134

Nafasi	Modeli	Kampuni	Idadi ya Jibu lisilo sahihi	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#2	Gemini 3 Flash Preview medium	Google	1	8.6	$0.667	2/3	84.4s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.667 Muda wa majibu (wastani) 84.4s
#8	Gemini 3.5 Flash low	Google	1	7.8	$0.349	2/3	6.71s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.349 Muda wa majibu (wastani) 6.71s
#10	Gemini 3.1 Pro Preview medium	Google	1	7.9	$1.054	2/3	40.2s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $1.054 Muda wa majibu (wastani) 40.2s
#12	GPT-5.5 medium	OpenAI	1	8.8	$3.679	2/3	59.8s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $3.679 Muda wa majibu (wastani) 59.8s
#14	Qwen3.6 Max Preview medium	Qwen	1	8.8	$0.960	2/3	146.5s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.960 Muda wa majibu (wastani) 146.5s
#16	Claude Opus 4.7 medium	Anthropic	1	7.6	$0.679	2/3	13.0s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.679 Muda wa majibu (wastani) 13.0s
#17	GLM 5.2 medium	Z.ai	1	8.2	$0.129	2/3	41.0s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.129 Muda wa majibu (wastani) 41.0s
#20	GPT-5.4 medium	OpenAI	1	8.8	$1.210	2/3	44.4s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $1.210 Muda wa majibu (wastani) 44.4s
#21	Seed-2.0-Lite medium	Bytedance Seed	1	8.0	$0.175	2/3	156.7s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.175 Muda wa majibu (wastani) 156.7s
#22	GPT-5.2 Chat none	OpenAI	1	8.8	$0.393	2/3	9.82s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.393 Muda wa majibu (wastani) 9.82s
#23	Step 3.7 Flash medium	Stepfun	1	8.8	$0.376	2/3	27.4s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.376 Muda wa majibu (wastani) 27.4s
#26	Grok 4.5 medium	X AI	1	7.6	$1.696	2/3	155.7s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $1.696 Muda wa majibu (wastani) 155.7s
#27	DeepSeek V4 Flash high	DeepSeek	1	7.8	$0.027	2/3	50.6s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.027 Muda wa majibu (wastani) 50.6s
#28	Gemini 2.5 Flash medium	Google	1	7.8	$0.379	2/3	41.0s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.379 Muda wa majibu (wastani) 41.0s
#29	GPT-5.6 Terra high	OpenAI	1	7.6	$0.852	2/3	9.14s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.852 Muda wa majibu (wastani) 9.14s

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Jibu lisilo sahihi

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa