Orodha ya Mwito wa zana x Hitilafu ya API

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Hitilafu ya API katika Mwito wa zana, ili uone udhaifu haraka. Panga kwa: Muda wa majibu (wastani) ↑.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Gemma 4 31B 1

Sababu za kushindwa

Hakufuata maelekezo6 Hitilafu ya API6 Mwito wa zana si sahihi3 Hakuna jibu2 Jibu lisilo sahihi2

Kategoria

Mwito wa zana6 Uandishi wa msimbo6 Uchanganuzi na uchimbaji wa data6 Mchanganyiko5 Mahususi kwa domeni2 Ufuataji wa maagizo1 Utatuzi wa mafumbo1

Nafasi	Modeli	Kampuni	Idadi ya Hitilafu ya API	Alama ya kategoria	Majaribio sahihi	Muda wa majibu (wastani)
#14	Gemma 4 31B medium	Google	1	3.0	0/1	0ms
#33	GLM 5.1 medium	Z.ai	1	3.0	0/1	0ms
#48	Gemma 4 31B none	Google	1	3.0	0/1	0ms
#56	Grok 4.20 Multi Agent Beta medium	X AI	1	3.0	0/1	0ms
#84	gpt-oss-120b none	OpenAI	1	3.0	0/1	0ms
#98	LFM2-24B-A2B none	Liquid	1	3.0	0/1	0ms

Modeli bora kwa Idadi ya Hitilafu ya API

Idadi ya Hitilafu ya API dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Mwito wa zana: Hitilafu ya API

Modeli bora kwa Idadi ya Hitilafu ya API

Idadi ya Hitilafu ya API dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa