Orodha ya Utatuzi wa mafumbo x Jibu lisilo sahihi

Kushindwa kwa kategoria za AI BENCHY

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Jibu lisilo sahihi katika Utatuzi wa mafumbo, ili uone udhaifu haraka. Panga kwa: Muda wa majibu (wastani) ↑.

Modeli zilizoonyeshwa

Jumla ya kushindwa

147

Modeli iliyoathirika zaidi

Mistral Small 4 2

Sababu za kushindwa

Jibu lisilo sahihi147 Hakufuata maelekezo78 Hitilafu ya API13 Muda umeisha5 Muundo wa ziada5 Hakuna jibu1

Kategoria

Mahususi kwa domeni314 Mbinu za kupinga AI245 Uandishi wa msimbo194 Utatuzi wa mafumbo147 Maarifa ya jumla130 Ufuataji wa maagizo53 Mchanganyiko52 Uchanganuzi na uchimbaji wa data35 Akili ya jumla32 Mwito wa zana2

Nafasi	Modeli	Kampuni	Idadi ya Jibu lisilo sahihi	Alama ya kategoria	Majaribio sahihi	Muda wa majibu (wastani)
#142	Mistral Small 4 none	Mistral	2	3.1	0/3	399ms
#127	Grok 4.20 none	X AI	2	5.3	1/3	473ms
#162	Nemotron 3 Nano Omni 30b A3b Reasoning none	NVIDIA	1	3.0	0/3	532ms
#155	Mercury 2 none	Inception	3	3.1	0/3	535ms
#106	Grok 4.20 Beta none	X AI	1	7.7	2/3	586ms
#97	Gemini 2.5 Flash none	Google	1	7.7	2/3	604ms
#163	Granite 4.1 8B none	IBM Granite	2	3.2	0/3	608ms
#154	Qwen3.5-9B none	Qwen	2	3.2	0/3	621ms
#146	Laguna Xs.2 none	Poolside	1	5.3	1/3	650ms
#90	Gemini 3.1 Flash Lite none	Google	1	6.3	1/3	720ms
#102	Gemma 4 26B A4B none	Google	1	6.2	1/3	744ms
#137	Elephant Alpha none	Openrouter	2	4.2	0/3	807ms
#144	GPT-5.4 Mini none	OpenAI	1	5.4	1/3	836ms
#136	Elephant Alpha medium	Openrouter	1	5.3	1/3	868ms
#145	Laguna M.1 none	Poolside	2	3.0	0/3	891ms

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Utatuzi wa mafumbo: Jibu lisilo sahihi

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa