Orodha ya Akili ya jumla x Hitilafu ya API

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Hitilafu ya API katika Akili ya jumla, ili uone udhaifu haraka. Panga kwa: Muda wa majibu (wastani) ↑.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Hy3 preview 1

Sababu za kushindwa

Hakufuata maelekezo74 Jibu lisilo sahihi32 Hitilafu ya API12 Muda umeisha4

Kategoria

Uandishi wa msimbo43 Uchanganuzi na uchimbaji wa data16 Mwito wa zana15 Mbinu za kupinga AI13 Mchanganyiko13 Utatuzi wa mafumbo13 Akili ya jumla12 Maarifa ya jumla12 Mahususi kwa domeni6 Ufuataji wa maagizo1

Nafasi	Modeli	Kampuni	Idadi ya Hitilafu ya API	Alama ya kategoria	Majaribio sahihi	Muda wa majibu (wastani)
#82	Hy3 preview high	Tencent	1	3.0	0/1	0ms
#89	Hy3 preview low	Tencent	1	3.0	0/1	0ms
#92	Laguna M.1 medium	Poolside	1	3.0	0/1	0ms
#93	Qwen3.6 Plus Preview medium	Qwen	1	3.0	0/1	0ms
#107	Laguna Xs.2 medium	Poolside	1	3.0	0/1	0ms
#145	Laguna M.1 none	Poolside	1	3.0	0/1	0ms
#146	Laguna Xs.2 none	Poolside	1	3.0	0/1	0ms
#149	Nemotron 3 Nano Omni 30b A3b Reasoning medium	NVIDIA	1	3.0	0/1	0ms
#162	Nemotron 3 Nano Omni 30b A3b Reasoning none	NVIDIA	1	3.0	0/1	0ms
#41	Nemotron 3 Ultra 550b A55b medium	NVIDIA	1	3.7	0/1	2.52s
#133	DeepSeek V3.2 none	DeepSeek	1	4.7	0/1	9.32s
#72	DeepSeek V3.2 medium	DeepSeek	1	3.4	0/1	58.3s

Modeli bora kwa Idadi ya Hitilafu ya API

Idadi ya Hitilafu ya API dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Akili ya jumla: Hitilafu ya API

Modeli bora kwa Idadi ya Hitilafu ya API

Idadi ya Hitilafu ya API dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa