Orodha ya Uandishi wa msimbo x Muda umeisha

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Muda umeisha katika Uandishi wa msimbo, ili uone udhaifu haraka.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Sababu za kushindwa

Jibu lisilo sahihi230 Hitilafu ya API43 Muda umeisha25 Hakuna jibu18 Hakufuata maelekezo16 Muundo wa ziada12

Kategoria

Mahususi kwa domeni37 Uandishi wa msimbo25 Utatuzi wa mafumbo5 Akili ya jumla4 Mbinu za kupinga AI4 Mchanganyiko2 Uchanganuzi na uchimbaji wa data1 Ufuataji wa maagizo1

22/22

Nafasi	Modeli	Kampuni	Idadi ya Muda umeisha	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#84	Qwen3.5-Flash medium	Qwen	1	3.7	$0.080	0/3	58.9s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.080 Muda wa majibu (wastani) 58.9s
#94	Step 3.5 Flash medium	Stepfun	1	2.4	$0.070	0/2	258.4s
Jumla ya majaribio 2 Majaribio yenye makosa 2 Jumla ya gharama $0.070 Muda wa majibu (wastani) 258.4s
#104	Qwen3.5-35B-A3B medium	Qwen	1	5.9	$0.401	1/3	206.6s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.401 Muda wa majibu (wastani) 206.6s
#139	Gemma 4 26B A4B none	Google	1	3.7	$0.004	0/3	4.16s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.004 Muda wa majibu (wastani) 4.16s
#166	MiniMax M2.5 medium	Minimax	1	3.4	$0.303	0/3	188.6s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.303 Muda wa majibu (wastani) 188.6s
#168	Qwen3 Coder Next medium	Qwen	1	3.7	$0.008	0/3	924ms
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.008 Muda wa majibu (wastani) 924ms
#185	Qwen3.5-9B medium	Qwen	1	2.9	$0.036	0/3	100.9s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.036 Muda wa majibu (wastani) 100.9s

Chuja miundo