Orodha ya Uandishi wa msimbo x Jibu lisilo sahihi

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Jibu lisilo sahihi katika Uandishi wa msimbo, ili uone udhaifu haraka.

Modeli zilizoonyeshwa

Jumla ya kushindwa

230

Modeli iliyoathirika zaidi

Qwen3.6 Flash 3

Sababu za kushindwa

Jibu lisilo sahihi230 Hitilafu ya API43 Muda umeisha23 Hakuna jibu18 Hakufuata maelekezo16 Muundo wa ziada12

Kategoria

Mahususi kwa domeni367 Mbinu za kupinga AI270 Uandishi wa msimbo230 Utatuzi wa mafumbo172 Maarifa ya jumla149 Mchanganyiko58 Ufuataji wa maagizo56 Akili ya jumla49 Uchanganuzi na uchimbaji wa data36 Mwito wa zana3

134/134

Nafasi	Modeli	Kampuni	Idadi ya Jibu lisilo sahihi	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#165	MiniMax M2.5 medium	Minimax	1	3.4	$0.303	0/3	188.6s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.303 Muda wa majibu (wastani) 188.6s
#166	Ling-2.6-1T none	Inclusionai	1	3.8	$0.005	0/3	10.6s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.005 Muda wa majibu (wastani) 10.6s
#168	Grok 4.20 Beta none	X AI	1	1.8	$0.087	0/1	1.14s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.087 Muda wa majibu (wastani) 1.14s
#169	Laguna M.1 none	Poolside	1	2.5	$0.009	0/1	2.93s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.009 Muda wa majibu (wastani) 2.93s
#171	Elephant Alpha none	Openrouter	1	4.2	$0.000	0/3	1.39s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 1.39s
#172	Elephant Alpha medium	Openrouter	1	3.7	$0.000	0/3	1.30s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 1.30s
#174	Grok 4.20 none	X AI	1	1.1	$0.057	0/1	1.22s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.057 Muda wa majibu (wastani) 1.22s
#175	Laguna Xs.2 medium	Poolside	1	2.1	$0.015	0/1	14.4s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.015 Muda wa majibu (wastani) 14.4s
#177	Hy3 preview none	Tencent	1	2.7	$0.003	0/3	4.56s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.003 Muda wa majibu (wastani) 4.56s
#180	Grok 4.1 Fast none	X AI	1	1.8	$0.008	0/1	1.79s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.008 Muda wa majibu (wastani) 1.79s
#181	Laguna Xs.2 none	Poolside	1	8.3	$0.004	0/1	1.96s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.004 Muda wa majibu (wastani) 1.96s
#182	Granite 4.1 8B none	IBM Granite	1	4.5	$0.003	0/3	775ms
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.003 Muda wa majibu (wastani) 775ms
#183	gpt-oss-120b none	OpenAI	1	1.5	$0.010	0/1	9.57s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.010 Muda wa majibu (wastani) 9.57s
#185	Nemotron 3 Nano Omni 30b A3b Reasoning medium	NVIDIA	1	1.1	$0.000	0/1	38.1s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.000 Muda wa majibu (wastani) 38.1s

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Jibu lisilo sahihi

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa