Orodha ya Kazi za mawakala x Jibu lisilo sahihi

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Jibu lisilo sahihi katika Kazi za mawakala, ili uone udhaifu haraka. Panga kwa: Muda wa majibu (wastani) ↑.

Modeli zilizoonyeshwa

Jumla ya kushindwa

108

Modeli iliyoathirika zaidi

North Mini Code 1

Sababu za kushindwa

Jibu lisilo sahihi108 Mwito wa zana si sahihi44 Hitilafu ya API32 Hakufuata maelekezo14 Muda umeisha10

Kategoria

Mahususi kwa domeni766 Mbinu za kupinga AI446 Uandishi wa msimbo429 Utatuzi wa mafumbo307 Maarifa ya jumla280 Mchanganyiko115 Akili ya jumla112 Kazi za mawakala108 Ufuataji wa maagizo94 Uchanganuzi na uchimbaji wa data71

108/108

Nafasi	Modeli	Kampuni	Idadi ya Jibu lisilo sahihi	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#316	North Mini Code none	Cohere	1	3.0	$0.000	0/1	18.9s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.000 Muda wa majibu (wastani) 18.9s
#333	Nemotron 3 Super none	NVIDIA	1	2.8	$0.016	0/1	30.5s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.016 Muda wa majibu (wastani) 30.5s
#188	Mercury 2 medium	Inception	1	4.7	$0.121	0/1	34.9s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.121 Muda wa majibu (wastani) 34.9s
#300	GPT-4o-mini none	OpenAI	1	5.0	$0.024	0/1	40.0s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.024 Muda wa majibu (wastani) 40.0s
#255	GPT-5.4 Mini none	OpenAI	1	5.0	$0.170	0/1	42.0s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.170 Muda wa majibu (wastani) 42.0s
#260	GPT-5.4 none	OpenAI	1	5.0	$0.690	0/1	43.7s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.690 Muda wa majibu (wastani) 43.7s
#244	Gemini 3.1 Flash Lite none	Google	1	5.0	$0.069	0/1	43.8s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.069 Muda wa majibu (wastani) 43.8s
#258	Gemma 4 31B none	Google	1	3.9	$0.030	0/1	44.7s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.030 Muda wa majibu (wastani) 44.7s
#321	GPT-5.4 Nano none	OpenAI	1	3.9	$0.068	0/1	45.4s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.068 Muda wa majibu (wastani) 45.4s
#292	Mistral Small 4 none	Mistral	1	5.0	$0.047	0/1	45.5s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.047 Muda wa majibu (wastani) 45.5s
#299	Dots 3 Note Preview none	Dots Studio	1	3.9	$0.000	0/1	45.7s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.000 Muda wa majibu (wastani) 45.7s
#272	Qwen3.8 27B none	Qwen	1	5.0	~$0.010	0/1	47.4s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama ~$0.010 Muda wa majibu (wastani) 47.4s
#163	Gemini 3.1 Flash Lite medium	Google	1	5.0	$0.153	0/1	47.8s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.153 Muda wa majibu (wastani) 47.8s
#230	Gemini 3.1 Flash Lite Preview none	Google	1	5.0	$0.090	0/1	48.6s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.090 Muda wa majibu (wastani) 48.6s
#208	Gemini 3.5 Flash minimal	Google	1	5.0	$0.508	0/1	49.2s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.508 Muda wa majibu (wastani) 49.2s

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Kazi za mawakala: Jibu lisilo sahihi

Chuja miundo

Modeli bora kwa Idadi ya Jibu lisilo sahihi

Idadi ya Jibu lisilo sahihi dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwaMakadirio yanahusu umeme wa GPU pekee. Hayajumuishi sehemu nyingine za kompyuta wala gharama ya kununua maunzi. NVIDIA GeForce RTX 3090: 0.0968 h × 0.300 kW × €0.2896/kWh × 1.138 USD/EUR = ~$0.009566.

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa