Orodha ya Uandishi wa msimbo x Hakufuata maelekezo

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Hakufuata maelekezo katika Uandishi wa msimbo, ili uone udhaifu haraka.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Sababu za kushindwa

Jibu lisilo sahihi120 Hakuna jibu18 Hakufuata maelekezo16 Muda umeisha12 Muundo wa ziada7 Hitilafu ya API6

Kategoria

Utatuzi wa mafumbo84 Akili ya jumla74 Mbinu za kupinga AI29 Uandishi wa msimbo16 Ufuataji wa maagizo14 Mwito wa zana6 Mahususi kwa domeni1 Mchanganyiko1

Nafasi	Modeli	Kampuni	Idadi ya Hakufuata maelekezo	Alama ya kategoria	Majaribio sahihi	Muda wa majibu (wastani)
#153	Granite 4.1 8B none	IBM Granite	1	5.2	0/2	706ms

Modeli bora kwa Idadi ya Hakufuata maelekezo