Orodha ya Uandishi wa msimbo x Hakuna jibu

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Hakuna jibu katika Uandishi wa msimbo, ili uone udhaifu haraka.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Gemma 4 26B A4B 2

Sababu za kushindwa

Jibu lisilo sahihi230 Hitilafu ya API43 Muda umeisha23 Hakuna jibu18 Hakufuata maelekezo16 Muundo wa ziada12

Kategoria

Uandishi wa msimbo18 Maarifa ya jumla10 Mahususi kwa domeni6 Uchanganuzi na uchimbaji wa data5 Mbinu za kupinga AI4 Mchanganyiko3 Mwito wa zana2 Ufuataji wa maagizo2 Utatuzi wa mafumbo2

16/16

Nafasi	Modeli	Kampuni	Idadi ya Hakuna jibu	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#71	Gemma 4 26B A4B medium	Google	2	2.9	$0.045	0/3	272.5s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.045 Muda wa majibu (wastani) 272.5s
#75	Step 3.7 Flash high	Stepfun	2	4.0	$1.148	0/3	206.2s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $1.148 Muda wa majibu (wastani) 206.2s
#24	GLM 5 Turbo medium	Z.ai	1	8.2	$0.323	2/3	45.9s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.323 Muda wa majibu (wastani) 45.9s
#43	Kimi K2.6 medium	Moonshot AI	1	5.7	$0.888	1/3	214.4s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.888 Muda wa majibu (wastani) 214.4s
#55	Kimi K2.5 medium	Moonshot AI	1	6.1	$0.348	1/3	217.5s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.348 Muda wa majibu (wastani) 217.5s
#76	GLM 5.1 medium	Z.ai	1	4.6	$0.288	0/3	109.6s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.288 Muda wa majibu (wastani) 109.6s
#86	Mimo V2 Omni medium	Xiaomi	1	3.3	$0.683	0/3	183.9s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.683 Muda wa majibu (wastani) 183.9s
#88	Qwen3.6 35B A3B medium	Qwen	1	7.7	$0.146	2/3	50.5s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.146 Muda wa majibu (wastani) 50.5s
#93	Step 3.5 Flash medium	Stepfun	1	2.4	$0.070	0/2	258.4s
Jumla ya majaribio 2 Majaribio yenye makosa 2 Jumla ya gharama $0.070 Muda wa majibu (wastani) 258.4s
#94	Qwen3.6 27B medium	Qwen	1	7.7	$0.336	2/3	143.0s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.336 Muda wa majibu (wastani) 143.0s
#102	Gemma 4 31B medium	Google	1	4.3	$0.033	0/3	219.8s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.033 Muda wa majibu (wastani) 219.8s
#103	Qwen3.5-35B-A3B medium	Qwen	1	5.9	$0.401	1/3	206.6s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.401 Muda wa majibu (wastani) 206.6s
#146	MiniMax M2.7 medium	Minimax	1	5.7	$0.100	1/3	101.9s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.100 Muda wa majibu (wastani) 101.9s
#165	MiniMax M2.5 medium	Minimax	1	3.4	$0.303	0/3	188.6s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.303 Muda wa majibu (wastani) 188.6s
#176	GLM 4.7 Flash medium	Z.ai	1	3.2	$0.054	0/3	55.3s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.054 Muda wa majibu (wastani) 55.3s

Chuja miundo

Modeli bora kwa Idadi ya Hakuna jibu

Idadi ya Hakuna jibu dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Hakuna jibu

Chuja miundo

Modeli bora kwa Idadi ya Hakuna jibu

Idadi ya Hakuna jibu dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa