Orodha ya Uandishi wa msimbo x Muundo wa ziada

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Muundo wa ziada katika Uandishi wa msimbo, ili uone udhaifu haraka. Panga kwa: Majaribio sahihi ↑.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

GLM 5.1 1

Sababu za kushindwa

Jibu lisilo sahihi230 Hitilafu ya API43 Muda umeisha23 Hakuna jibu18 Hakufuata maelekezo16 Muundo wa ziada12

Kategoria

Mbinu za kupinga AI20 Mahususi kwa domeni13 Uandishi wa msimbo12 Utatuzi wa mafumbo6 Uchanganuzi na uchimbaji wa data4 Ufuataji wa maagizo3 Mchanganyiko1

12/12

Nafasi	Modeli	Kampuni	Idadi ya Muundo wa ziada	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#76	GLM 5.1 medium	Z.ai	1	4.6	$0.288	0/3	109.6s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.288 Muda wa majibu (wastani) 109.6s
#130	Mimo V2 Omni none	Xiaomi	1	4.4	$0.021	0/3	2.75s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.021 Muda wa majibu (wastani) 2.75s
#182	Granite 4.1 8B none	IBM Granite	1	4.5	$0.003	0/3	775ms
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.003 Muda wa majibu (wastani) 775ms
#38	Claude Sonnet 4.6 medium	Anthropic	1	5.7	$1.418	1/3	33.3s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $1.418 Muda wa majibu (wastani) 33.3s
#45	Claude Opus 4.8 low	Anthropic	1	6.6	$1.270	1/3	7.58s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $1.270 Muda wa majibu (wastani) 7.58s
#46	Grok 4.3 medium	X AI	1	5.9	$0.614	1/3	41.2s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.614 Muda wa majibu (wastani) 41.2s
#48	Claude Opus 4.6 medium	Anthropic	1	5.7	$2.053	1/3	30.1s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $2.053 Muda wa majibu (wastani) 30.1s
#51	MiniMax M3 medium	Minimax	1	6.1	$0.131	1/3	144.7s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.131 Muda wa majibu (wastani) 144.7s
#53	Grok Build 0.1 medium	X AI	1	5.7	$0.927	1/3	108.5s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.927 Muda wa majibu (wastani) 108.5s
#63	MiMo-V2.5-Pro medium	Xiaomi	1	6.2	$0.106	1/3	92.1s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.106 Muda wa majibu (wastani) 92.1s
#67	Claude Sonnet 4.6 none	Anthropic	1	5.5	$0.316	1/3	5.19s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.316 Muda wa majibu (wastani) 5.19s
#126	Owl Alpha none	Openrouter	1	5.6	$0.000	1/3	36.9s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.000 Muda wa majibu (wastani) 36.9s

Chuja miundo

Modeli bora kwa Idadi ya Muundo wa ziada

Idadi ya Muundo wa ziada dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Muundo wa ziada

Chuja miundo

Modeli bora kwa Idadi ya Muundo wa ziada

Idadi ya Muundo wa ziada dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa