Orodha ya Kazi za mawakala x Jibu lisilo sahihi

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Jibu lisilo sahihi katika Kazi za mawakala, ili uone udhaifu haraka.

Modeli zilizoonyeshwa

Jumla ya kushindwa

108

Modeli iliyoathirika zaidi

Grok 4.6 1

Sababu za kushindwa

Jibu lisilo sahihi108 Mwito wa zana si sahihi44 Hitilafu ya API32 Hakufuata maelekezo14 Muda umeisha10

Kategoria

Mahususi kwa domeni766 Mbinu za kupinga AI446 Uandishi wa msimbo429 Utatuzi wa mafumbo307 Maarifa ya jumla280 Mchanganyiko115 Akili ya jumla112 Kazi za mawakala108 Ufuataji wa maagizo94 Uchanganuzi na uchimbaji wa data71

108/108

Nafasi	Modeli	Kampuni	Idadi ya Jibu lisilo sahihi	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#265	Kimi K2.6 none	Moonshot AI	1	4.7	$0.376	0/1	175.2s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.376 Muda wa majibu (wastani) 175.2s
#268	Gemma 4 26B A4B none	Google	1	5.0	$0.026	0/1	75.8s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.026 Muda wa majibu (wastani) 75.8s
#270	Seed-2.0-Code none	Bytedance Seed	1	6.1	$0.257	0/1	80.0s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.257 Muda wa majibu (wastani) 80.0s
#272	Qwen3.8 27B none	Qwen	1	5.0	~$0.010	0/1	47.4s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama ~$0.010 Muda wa majibu (wastani) 47.4s
#273	North Mini Code medium	Cohere	1	3.9	$0.000	0/1	105.2s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.000 Muda wa majibu (wastani) 105.2s
#275	MiMo-V2.6-Flash none	Xiaomi	1	5.0	$0.060	0/1	62.6s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.060 Muda wa majibu (wastani) 62.6s
#276	Step 3.5 Flash medium	Stepfun	1	2.8	$0.105	0/1	172.2s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.105 Muda wa majibu (wastani) 172.2s
#277	Ember-1 none	Fireworks	1	6.1	$0.786	0/1	92.9s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.786 Muda wa majibu (wastani) 92.9s
#279	GPT-5.6 Luna none	OpenAI	1	5.0	$0.056	0/1	53.8s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.056 Muda wa majibu (wastani) 53.8s
#280	Granite 4.2 8B low	IBM Granite	1	6.1	$0.036	0/1	142.7s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.036 Muda wa majibu (wastani) 142.7s
#281	Kimi K2.5 none	Moonshot AI	1	5.0	$0.236	0/1	321.2s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.236 Muda wa majibu (wastani) 321.2s
#291	Mistral Small 4 medium	Mistral	1	5.0	$0.126	0/1	54.1s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.126 Muda wa majibu (wastani) 54.1s
#292	Mistral Small 4 none	Mistral	1	5.0	$0.047	0/1	45.5s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.047 Muda wa majibu (wastani) 45.5s
#296	Laguna S 2.1 medium	Poolside	1	3.4	$0.080	0/1	165.0s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.080 Muda wa majibu (wastani) 165.0s
#297	Mercury 2.5 Preview low	Inception	1	5.0	$0.015	0/1	84.5s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.015 Muda wa majibu (wastani) 84.5s

←

1 5 6 7 8

→

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Kazi za mawakala: Jibu lisilo sahihi

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwaMakadirio yanahusu umeme wa GPU pekee. Hayajumuishi sehemu nyingine za kompyuta wala gharama ya kununua maunzi. NVIDIA GeForce RTX 3090: 0.0968 h × 0.300 kW × €0.2896/kWh × 1.138 USD/EUR = ~$0.009566.

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa