Orodha ya Uandishi wa msimbo x Hitilafu ya API

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Hitilafu ya API katika Uandishi wa msimbo, ili uone udhaifu haraka. Panga kwa: Majaribio sahihi ↓.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Gemini 3 PRO Preview 1

Sababu za kushindwa

Jibu lisilo sahihi26 Muda umeisha12 Hitilafu ya API6 Hakufuata maelekezo2

Kategoria

Mwito wa zana6 Uandishi wa msimbo6 Uchanganuzi na uchimbaji wa data6 Mchanganyiko5 Mahususi kwa domeni2 Ufuataji wa maagizo1 Utatuzi wa mafumbo1

Nafasi	Modeli	Kampuni	Idadi ya Hitilafu ya API	Alama ya kategoria	Majaribio sahihi	Muda wa majibu (wastani)
#10	Gemini 3 PRO Preview medium	Google	1	3.0	0/1	0ms
#18	Qwen3.6 Plus medium	Qwen	1	3.0	0/1	0ms
#47	Hunter Alpha medium	OpenRouter	1	3.0	0/1	0ms
#48	Nemotron 3 Super medium	NVIDIA	1	3.0	0/1	0ms
#68	Hunter Alpha none	OpenRouter	1	3.0	0/1	0ms
#93	Step 3.5 Flash none	Stepfun	1	3.0	0/1	0ms

Modeli bora kwa Idadi ya Hitilafu ya API

Idadi ya Hitilafu ya API dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Hitilafu ya API

Modeli bora kwa Idadi ya Hitilafu ya API

Idadi ya Hitilafu ya API dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa