Orodha ya Akili ya jumla x Hakufuata maelekezo

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Hakufuata maelekezo katika Akili ya jumla, ili uone udhaifu haraka.

Modeli zilizoonyeshwa

Jumla ya kushindwa

141

Modeli iliyoathirika zaidi

Claude Sonnet 5.5 1

Sababu za kushindwa

Hakufuata maelekezo141 Jibu lisilo sahihi129 Hitilafu ya API17 Muda umeisha4

Kategoria

Utatuzi wa mafumbo160 Akili ya jumla141 Ufuataji wa maagizo73 Mbinu za kupinga AI52 Uandishi wa msimbo45 Mwito wa zana13 Kazi za mawakala10 Uchanganuzi na uchimbaji wa data8 Mahususi kwa domeni3 Mchanganyiko1

141/141

Nafasi	Modeli	Kampuni	Idadi ya Hakufuata maelekezo	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#34	Claude Sonnet 5.5 max	Anthropic	1	0.5	$8.557	0/1	56.7s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $8.557 Muda wa majibu (wastani) 56.7s
#36	Qwen3.8 Max (0902) high	Qwen	1	0.6	$3.306	0/1	75.1s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $3.306 Muda wa majibu (wastani) 75.1s
#37	GPT-5.3-Codex medium	OpenAI	1	0.5	$1.318	0/1	4.87s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $1.318 Muda wa majibu (wastani) 4.87s
#42	Seed 2.1 Turbo high	Bytedance Seed	1	0.6	$1.892	0/1	25.7s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $1.892 Muda wa majibu (wastani) 25.7s
#55	Muse Spark 1.2 medium	Meta	1	0.6	$1.590	0/1	10.7s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $1.590 Muda wa majibu (wastani) 10.7s
#58	Pareto 26.9 default	Unbiased	1	0.6	$1.864	0/1	6.55s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $1.864 Muda wa majibu (wastani) 6.55s
#59	Qwen3.8 MAX low	Qwen	1	0.6	$1.089	0/1	5.29s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $1.089 Muda wa majibu (wastani) 5.29s
#60	GPT-5.4 medium	OpenAI	1	0.5	$2.213	0/1	4.92s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $2.213 Muda wa majibu (wastani) 4.92s
#64	Muse Spark 1.2 low	Meta	1	0.5	$0.881	0/1	8.46s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.881 Muda wa majibu (wastani) 8.46s
#65	GPT-5.2 medium	OpenAI	1	0.4	$1.558	0/1	4.32s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $1.558 Muda wa majibu (wastani) 4.32s
#66	Qwen3.8 27B high	Qwen	1	0.5	~$0.298	0/1	8.45s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama ~$0.298 Muda wa majibu (wastani) 8.45s
#68	Seed 2.1 Turbo medium	Bytedance Seed	1	0.6	$2.042	0/1	40.6s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $2.042 Muda wa majibu (wastani) 40.6s
#72	Claude Sonnet 5.5 xhigh	Anthropic	1	0.6	$1.516	0/1	9.10s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $1.516 Muda wa majibu (wastani) 9.10s
#78	Claude Sonnet 5 medium	Anthropic	1	0.5	$1.438	0/1	4.32s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $1.438 Muda wa majibu (wastani) 4.32s
#81	Nemotron 3.5 Super VL high	NVIDIA	1	0.6	$0.349	0/1	14.3s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.349 Muda wa majibu (wastani) 14.3s

Chuja miundo

Modeli bora kwa Idadi ya Hakufuata maelekezo

Idadi ya Hakufuata maelekezo dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Akili ya jumla: Hakufuata maelekezo

Chuja miundo

Modeli bora kwa Idadi ya Hakufuata maelekezo

Idadi ya Hakufuata maelekezo dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwaMakadirio yanahusu umeme wa GPU pekee. Hayajumuishi sehemu nyingine za kompyuta wala gharama ya kununua maunzi. NVIDIA GeForce RTX 3090: 3.0102 h × 0.300 kW × €0.2896/kWh × 1.138 USD/EUR = ~$0.297613.

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa