Orodha ya Uandishi wa msimbo x Hakufuata maelekezo

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Hakufuata maelekezo katika Uandishi wa msimbo, ili uone udhaifu haraka.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Sababu za kushindwa

Jibu lisilo sahihi230 Hitilafu ya API43 Muda umeisha23 Hakuna jibu18 Hakufuata maelekezo16 Muundo wa ziada12

Kategoria

Utatuzi wa mafumbo82 Akili ya jumla74 Mbinu za kupinga AI31 Uandishi wa msimbo16 Ufuataji wa maagizo15 Mwito wa zana6 Mahususi kwa domeni1 Mchanganyiko1

16/16

Nafasi	Modeli	Kampuni	Idadi ya Hakufuata maelekezo	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#184	Qwen3.5-9B medium	Qwen	1	2.9	$0.036	0/3	100.9s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.036 Muda wa majibu (wastani) 100.9s

Chuja miundo