Orodha ya Uandishi wa msimbo x Jibu lisilo sahihi

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Jibu lisilo sahihi katika Uandishi wa msimbo, ili uone udhaifu haraka. Panga kwa: Jumla ya gharama ↓.

Modeli zilizoonyeshwa

Jumla ya kushindwa

230

Modeli iliyoathirika zaidi

GPT-5.5 1

Sababu za kushindwa

Jibu lisilo sahihi230 Hitilafu ya API43 Muda umeisha23 Hakuna jibu18 Hakufuata maelekezo16 Muundo wa ziada12

Kategoria

Mahususi kwa domeni367 Mbinu za kupinga AI270 Uandishi wa msimbo230 Utatuzi wa mafumbo172 Maarifa ya jumla149 Mchanganyiko58 Ufuataji wa maagizo56 Akili ya jumla49 Uchanganuzi na uchimbaji wa data36 Mwito wa zana3

134/134

Nafasi	Modeli	Kampuni	Idadi ya Jibu lisilo sahihi	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#12	GPT-5.5 medium	OpenAI	1	8.8	$3.679	2/3	59.8s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $3.679 Muda wa majibu (wastani) 59.8s
#26	Grok 4.5 medium	X AI	1	7.6	$1.696	2/3	155.7s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $1.696 Muda wa majibu (wastani) 155.7s
#38	Claude Sonnet 4.6 medium	Anthropic	1	5.7	$1.418	1/3	33.3s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $1.418 Muda wa majibu (wastani) 33.3s
#45	Claude Opus 4.8 low	Anthropic	1	6.6	$1.270	1/3	7.58s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $1.270 Muda wa majibu (wastani) 7.58s
#20	GPT-5.4 medium	OpenAI	1	8.8	$1.210	2/3	44.4s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $1.210 Muda wa majibu (wastani) 44.4s
#75	Step 3.7 Flash high	Stepfun	1	4.0	$1.148	0/3	206.2s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $1.148 Muda wa majibu (wastani) 206.2s
#79	Gemini 3.5 Flash none	Google	1	8.8	$1.079	2/3	34.7s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $1.079 Muda wa majibu (wastani) 34.7s
#10	Gemini 3.1 Pro Preview medium	Google	1	7.9	$1.054	2/3	40.2s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $1.054 Muda wa majibu (wastani) 40.2s
#14	Qwen3.6 Max Preview medium	Qwen	1	8.8	$0.960	2/3	146.5s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.960 Muda wa majibu (wastani) 146.5s
#53	Grok Build 0.1 medium	X AI	1	5.7	$0.927	1/3	108.5s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.927 Muda wa majibu (wastani) 108.5s
#50	GPT-5.6 Luna high	OpenAI	2	5.5	$0.924	1/3	15.6s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.924 Muda wa majibu (wastani) 15.6s
#29	GPT-5.6 Terra high	OpenAI	1	7.6	$0.852	2/3	9.14s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.852 Muda wa majibu (wastani) 9.14s
#86	Mimo V2 Omni medium	Xiaomi	1	3.3	$0.683	0/3	183.9s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.683 Muda wa majibu (wastani) 183.9s
#16	Claude Opus 4.7 medium	Anthropic	1	7.6	$0.679	2/3	13.0s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.679 Muda wa majibu (wastani) 13.0s
#2	Gemini 3 Flash Preview medium	Google	1	8.6	$0.667	2/3	84.4s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.667 Muda wa majibu (wastani) 84.4s

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Jibu lisilo sahihi

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa