Orodha ya Uandishi wa msimbo x Jibu lisilo sahihi

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Jibu lisilo sahihi katika Uandishi wa msimbo, ili uone udhaifu haraka.

Modeli zilizoonyeshwa

Jumla ya kushindwa

230

Modeli iliyoathirika zaidi

Qwen3.6 Flash 3

Sababu za kushindwa

Jibu lisilo sahihi230 Hitilafu ya API43 Muda umeisha25 Hakuna jibu18 Hakufuata maelekezo16 Muundo wa ziada12

Kategoria

Mahususi kwa domeni368 Mbinu za kupinga AI270 Uandishi wa msimbo230 Utatuzi wa mafumbo173 Maarifa ya jumla150 Mchanganyiko58 Ufuataji wa maagizo56 Akili ya jumla49 Uchanganuzi na uchimbaji wa data36 Mwito wa zana3

134/134

Nafasi	Modeli	Kampuni	Idadi ya Jibu lisilo sahihi	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#98	Gemini 3.1 Flash Lite Preview none	Google	2	5.5	$0.018	1/3	967ms
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.018 Muda wa majibu (wastani) 967ms
#99	Gemini 3.1 Flash Lite low	Google	2	5.5	$0.028	1/3	1.53s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.028 Muda wa majibu (wastani) 1.53s
#102	GPT-5.6 Sol none	OpenAI	2	5.5	$0.225	1/3	1.39s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.225 Muda wa majibu (wastani) 1.39s
#105	GPT-5.5 none	OpenAI	2	5.5	$0.231	1/3	1.35s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.231 Muda wa majibu (wastani) 1.35s
#107	Seed-2.0-Lite none	Bytedance Seed	2	5.6	$0.019	1/3	2.83s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.019 Muda wa majibu (wastani) 2.83s
#108	GPT-5.6 Luna low	OpenAI	2	5.5	$0.141	1/3	4.61s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.141 Muda wa majibu (wastani) 4.61s
#109	Gemini 2.5 Flash none	Google	2	5.5	$0.016	1/3	736ms
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.016 Muda wa majibu (wastani) 736ms
#110	Gemini 3.1 Flash Lite minimal	Google	2	5.5	$0.013	1/3	831ms
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.013 Muda wa majibu (wastani) 831ms
#112	Gemini 3.1 Flash Lite none	Google	2	5.5	$0.013	1/3	938ms
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.013 Muda wa majibu (wastani) 938ms
#113	Qwen3.5-Flash none	Qwen	2	5.5	$0.005	1/3	850ms
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.005 Muda wa majibu (wastani) 850ms
#114	Gemma 4 31B none	Google	2	5.5	$0.004	1/3	11.2s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.004 Muda wa majibu (wastani) 11.2s
#115	Nemotron 3 Ultra 550b A55b none	NVIDIA	2	5.5	$0.027	1/3	1.02s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.027 Muda wa majibu (wastani) 1.02s
#117	GPT-5.6 Terra none	OpenAI	2	5.5	$0.130	1/3	1.00s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.130 Muda wa majibu (wastani) 1.00s
#119	Qwen3.6 Flash none	Qwen	2	5.4	$0.015	1/3	1.79s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.015 Muda wa majibu (wastani) 1.79s
#120	Qwen3.5-35B-A3B none	Qwen	2	5.5	$0.012	1/3	1.39s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.012 Muda wa majibu (wastani) 1.39s

←

1 3 4 5 9

→

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Jibu lisilo sahihi

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa