Orodha ya Uandishi wa msimbo x Jibu lisilo sahihi

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Jibu lisilo sahihi katika Uandishi wa msimbo, ili uone udhaifu haraka. Panga kwa: Muda wa majibu (wastani) ↑.

Modeli zilizoonyeshwa

Jumla ya kushindwa

230

Modeli iliyoathirika zaidi

Laguna XS 2.1 3

Sababu za kushindwa

Jibu lisilo sahihi230 Hitilafu ya API43 Muda umeisha23 Hakuna jibu18 Hakufuata maelekezo16 Muundo wa ziada12

Kategoria

Mahususi kwa domeni367 Mbinu za kupinga AI270 Uandishi wa msimbo230 Utatuzi wa mafumbo172 Maarifa ya jumla149 Mchanganyiko58 Ufuataji wa maagizo56 Akili ya jumla49 Uchanganuzi na uchimbaji wa data36 Mwito wa zana3

134/134

Nafasi	Modeli	Kampuni	Idadi ya Jibu lisilo sahihi	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#141	Laguna XS 2.1 none	Poolside	3	4.3	$0.003	0/3	623ms
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.003 Muda wa majibu (wastani) 623ms
#108	Gemini 2.5 Flash none	Google	2	5.5	$0.016	1/3	736ms
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.016 Muda wa majibu (wastani) 736ms
#182	Granite 4.1 8B none	IBM Granite	1	4.5	$0.003	0/3	775ms
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.003 Muda wa majibu (wastani) 775ms
#109	Gemini 3.1 Flash Lite minimal	Google	2	5.5	$0.013	1/3	831ms
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.013 Muda wa majibu (wastani) 831ms
#112	Qwen3.5-Flash none	Qwen	2	5.5	$0.005	1/3	850ms
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.005 Muda wa majibu (wastani) 850ms
#148	Mistral Small 4 none	Mistral	3	3.7	$0.007	0/3	901ms
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.007 Muda wa majibu (wastani) 901ms
#143	GPT-5.4 Mini none	OpenAI	2	5.5	$0.038	1/3	913ms
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.038 Muda wa majibu (wastani) 913ms
#167	Qwen3 Coder Next medium	Qwen	2	3.7	$0.008	0/3	924ms
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.008 Muda wa majibu (wastani) 924ms
#111	Gemini 3.1 Flash Lite none	Google	2	5.5	$0.013	1/3	938ms
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.013 Muda wa majibu (wastani) 938ms
#97	Gemini 3.1 Flash Lite Preview none	Google	2	5.5	$0.018	1/3	967ms
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.018 Muda wa majibu (wastani) 967ms
#142	GPT-5.6 Luna none	OpenAI	3	3.8	$0.047	0/3	980ms
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.047 Muda wa majibu (wastani) 980ms
#116	GPT-5.6 Terra none	OpenAI	2	5.5	$0.130	1/3	1.00s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.130 Muda wa majibu (wastani) 1.00s
#114	Nemotron 3 Ultra 550b A55b none	NVIDIA	2	5.5	$0.027	1/3	1.02s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.027 Muda wa majibu (wastani) 1.02s
#170	Mercury 2 none	Inception	3	3.4	$0.011	0/3	1.03s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.011 Muda wa majibu (wastani) 1.03s
#168	Grok 4.20 Beta none	X AI	1	1.8	$0.087	0/1	1.14s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.087 Muda wa majibu (wastani) 1.14s

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Jibu lisilo sahihi

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa