Orodha ya Uandishi wa msimbo x Jibu lisilo sahihi

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Jibu lisilo sahihi katika Uandishi wa msimbo, ili uone udhaifu haraka. Panga kwa: Jumla ya gharama ↑.

Modeli zilizoonyeshwa

Jumla ya kushindwa

230

Modeli iliyoathirika zaidi

North Mini Code 3

Sababu za kushindwa

Jibu lisilo sahihi230 Hitilafu ya API43 Muda umeisha23 Hakuna jibu18 Hakufuata maelekezo16 Muundo wa ziada12

Kategoria

Mahususi kwa domeni367 Mbinu za kupinga AI270 Uandishi wa msimbo230 Utatuzi wa mafumbo172 Maarifa ya jumla149 Mchanganyiko58 Ufuataji wa maagizo56 Akili ya jumla49 Uchanganuzi na uchimbaji wa data36 Mwito wa zana3

134/134

Nafasi	Modeli	Kampuni	Idadi ya Jibu lisilo sahihi	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#123	North Mini Code medium	Cohere	3	4.5	$0.000	0/3	320.4s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 320.4s
#124	Owl Alpha medium	Openrouter	1	5.4	$0.000	1/3	18.7s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.000 Muda wa majibu (wastani) 18.7s
#126	Owl Alpha none	Openrouter	1	5.6	$0.000	1/3	36.9s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.000 Muda wa majibu (wastani) 36.9s
#150	North Mini Code none	Cohere	3	3.9	$0.000	0/3	22.0s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 22.0s
#159	Cobuddy medium	Baidu	1	3.7	$0.000	0/3	79.2s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 79.2s
#171	Elephant Alpha none	Openrouter	1	4.2	$0.000	0/3	1.39s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 1.39s
#172	Elephant Alpha medium	Openrouter	1	3.7	$0.000	0/3	1.30s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 1.30s
#185	Nemotron 3 Nano Omni 30b A3b Reasoning medium	NVIDIA	1	1.1	$0.000	0/1	38.1s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.000 Muda wa majibu (wastani) 38.1s
#177	Hy3 preview none	Tencent	1	2.7	$0.003	0/3	4.56s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.003 Muda wa majibu (wastani) 4.56s
#182	Granite 4.1 8B none	IBM Granite	1	4.5	$0.003	0/3	775ms
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.003 Muda wa majibu (wastani) 775ms
#141	Laguna XS 2.1 none	Poolside	3	4.3	$0.003	0/3	623ms
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.003 Muda wa majibu (wastani) 623ms
#113	Gemma 4 31B none	Google	2	5.5	$0.004	1/3	11.2s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.004 Muda wa majibu (wastani) 11.2s
#138	Gemma 4 26B A4B none	Google	2	3.7	$0.004	0/3	4.16s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.004 Muda wa majibu (wastani) 4.16s
#160	GLM 4.7 Flash none	Z.ai	3	4.3	$0.004	0/3	2.54s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.004 Muda wa majibu (wastani) 2.54s
#181	Laguna Xs.2 none	Poolside	1	8.3	$0.004	0/1	1.96s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.004 Muda wa majibu (wastani) 1.96s

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Jibu lisilo sahihi

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa