Orodha ya Uandishi wa msimbo x Jibu lisilo sahihi

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Jibu lisilo sahihi katika Uandishi wa msimbo, ili uone udhaifu haraka.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Sababu za kushindwa

Jibu lisilo sahihi26 Muda umeisha12 Hitilafu ya API6 Hakufuata maelekezo2

Kategoria

Mahususi kwa domeni173 Mbinu za kupinga AI156 Utatuzi wa mafumbo80 Ufuataji wa maagizo43 Mchanganyiko34 Uandishi wa msimbo26 Uchanganuzi na uchimbaji wa data17 Akili ya jumla10 Mwito wa zana2

Nafasi	Modeli	Kampuni	Idadi ya Jibu lisilo sahihi	Alama ya kategoria	Majaribio sahihi	Muda wa majibu (wastani)
#77	Grok 4.20 none	X AI	1	3.4	0/1	1.22s
#78	Mistral Small 4 none	Mistral	1	4.5	0/1	1.28s
#79	gpt-oss-120b none	OpenAI	1	4.3	0/1	9.57s
#81	Qwen3 Coder Next none	Qwen	1	7.3	0/1	3.14s
#82	Nemotron 3 Super none	NVIDIA	1	3.3	0/1	2.99s
#83	GPT-4o-mini none	OpenAI	1	3.0	0/1	2.55s
#84	Qwen3.5-9B none	Qwen	1	5.2	0/1	5.69s
#85	Mercury 2 none	Inception	1	3.6	0/1	969ms
#88	MiMo-V2-Flash none	Xiaomi	1	6.3	0/1	2.79s
#89	Grok 4.1 Fast none	X AI	1	5.3	0/1	1.79s
#90	GPT-5.4 Nano none	OpenAI	1	7.1	0/1	1.43s

Modeli bora kwa Idadi ya Jibu lisilo sahihi