Orodha ya Kazi za mawakala x Jibu lisilo sahihi

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Jibu lisilo sahihi katika Kazi za mawakala, ili uone udhaifu haraka.

Modeli zilizoonyeshwa

Jumla ya kushindwa

108

Modeli iliyoathirika zaidi

Grok 4.6 1

Sababu za kushindwa

Jibu lisilo sahihi108 Mwito wa zana si sahihi44 Hitilafu ya API32 Hakufuata maelekezo14 Muda umeisha10

Kategoria

Mahususi kwa domeni766 Mbinu za kupinga AI446 Uandishi wa msimbo429 Utatuzi wa mafumbo307 Maarifa ya jumla280 Mchanganyiko115 Akili ya jumla112 Kazi za mawakala108 Ufuataji wa maagizo94 Uchanganuzi na uchimbaji wa data71

108/108

Nafasi	Modeli	Kampuni	Idadi ya Jibu lisilo sahihi	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#62	Grok 4.6 high	X AI	1	5.0	$2.629	0/1	160.9s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $2.629 Muda wa majibu (wastani) 160.9s
#65	Qwen3.7 Max medium	Qwen	1	6.1	$2.046	0/1	137.0s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $2.046 Muda wa majibu (wastani) 137.0s
#78	Claude Opus 4.8 medium	Anthropic	1	6.1	$3.490	0/1	99.4s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $3.490 Muda wa majibu (wastani) 99.4s
#80	Grok 4.5 high	X AI	1	5.0	$2.571	0/1	77.0s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $2.571 Muda wa majibu (wastani) 77.0s
#90	DeepSeek V4.1 Flash low	DeepSeek	1	6.1	$0.153	0/1	56.0s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.153 Muda wa majibu (wastani) 56.0s
#102	Grok 4.5 medium	X AI	1	5.0	$2.454	0/1	65.2s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $2.454 Muda wa majibu (wastani) 65.2s
#105	Grok 4.6 medium	X AI	1	5.0	$2.270	0/1	103.6s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $2.270 Muda wa majibu (wastani) 103.6s
#108	Grok 4.5 low	X AI	1	5.0	$1.345	0/1	61.5s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $1.345 Muda wa majibu (wastani) 61.5s
#116	Qwen3.8 27B low	Qwen	1	6.1	~$0.089	0/1	211.3s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama ~$0.089 Muda wa majibu (wastani) 211.3s
#124	DeepSeek V4 Flash 0731 low	DeepSeek	1	4.7	$0.307	0/1	321.2s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.307 Muda wa majibu (wastani) 321.2s
#127	Grok 4.7 low	X AI	1	5.0	$2.263	0/1	154.9s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $2.263 Muda wa majibu (wastani) 154.9s
#134	Grok 4.7 medium	X AI	1	3.9	$3.501	0/1	372.1s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $3.501 Muda wa majibu (wastani) 372.1s
#137	Qwen3.6 Plus medium	Qwen	1	4.7	$0.391	0/1	307.1s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.391 Muda wa majibu (wastani) 307.1s
#140	Qwen3.5 Plus 2026-02-15 medium	Qwen	1	6.1	$0.567	0/1	186.4s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.567 Muda wa majibu (wastani) 186.4s
#141	Qwen3.8 27B medium	Qwen	1	4.7	~$0.073	0/1	187.9s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama ~$0.073 Muda wa majibu (wastani) 187.9s

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Kazi za mawakala: Jibu lisilo sahihi

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwaMakadirio yanahusu umeme wa GPU pekee. Hayajumuishi sehemu nyingine za kompyuta wala gharama ya kununua maunzi. NVIDIA GeForce RTX 3090: 0.8932 h × 0.300 kW × €0.2896/kWh × 1.138 USD/EUR = ~$0.088310.

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa