Orodha ya Uandishi wa msimbo x Hakufuata maelekezo

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Hakufuata maelekezo katika Uandishi wa msimbo, ili uone udhaifu haraka.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Gemini 3.5 Flash 1

Sababu za kushindwa

Jibu lisilo sahihi337 Hitilafu ya API51 Hakuna jibu39 Muda umeisha27 Hakufuata maelekezo25 Muundo wa ziada25

Kategoria

Utatuzi wa mafumbo120 Akili ya jumla108 Ufuataji wa maagizo46 Mbinu za kupinga AI42 Uandishi wa msimbo25 Mwito wa zana12 Uchanganuzi na uchimbaji wa data7 Mahususi kwa domeni2 Mchanganyiko1

25/25

Nafasi	Modeli	Kampuni	Idadi ya Hakufuata maelekezo	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#18	Gemini 3.5 Flash medium	Google	1	7.9	$0.665	2/3	12.6s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.665 Muda wa majibu (wastani) 12.6s
#42	Qwen3.8 27B high	Qwen	1	8.1	~$0.287	2/3	248.6s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama ~$0.287 Muda wa majibu (wastani) 248.6s
#54	DeepSeek V4 Flash 0731 high	DeepSeek	1	6.3	$0.134	1/3	252.7s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.134 Muda wa majibu (wastani) 252.7s
#74	Claude Opus 4.6 medium	Anthropic	1	5.7	$2.961	1/3	30.1s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $2.961 Muda wa majibu (wastani) 30.1s
#95	Qwen3.8 2.4T A95B high	Qwen	1	5.9	$2.357	1/3	160.5s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $2.357 Muda wa majibu (wastani) 160.5s
#104	Claude Opus 4.8 none	Anthropic	1	5.5	$1.166	1/3	3.29s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $1.166 Muda wa majibu (wastani) 3.29s
#126	Seed-2.0-Code high	Bytedance Seed	1	6.2	$1.273	1/3	266.7s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $1.273 Muda wa majibu (wastani) 266.7s
#133	DeepSeek V4 Pro none	DeepSeek	1	5.6	$0.351	1/3	13.4s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.351 Muda wa majibu (wastani) 13.4s
#138	GLM 5.2 none	Z.ai	1	3.7	$0.153	0/3	7.55s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.153 Muda wa majibu (wastani) 7.55s
#141	Gemini 3.5 Flash minimal	Google	1	5.6	$0.300	1/3	2.75s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.300 Muda wa majibu (wastani) 2.75s
#176	Trinity Large Thinking medium	Arcee AI	1	7.5	$0.798	2/3	179.0s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.798 Muda wa majibu (wastani) 179.0s
#179	Qwen3.5 Plus 2026-04-20 none	Qwen	1	3.9	$0.122	0/3	1.69s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.122 Muda wa majibu (wastani) 1.69s
#203	Kimi K2.6 none	Moonshot AI	1	5.5	$0.230	1/3	82.6s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.230 Muda wa majibu (wastani) 82.6s
#222	MiMo-V2.5-Pro none	Xiaomi	1	4.3	$0.068	0/3	1.41s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.068 Muda wa majibu (wastani) 1.41s
#244	DeepSeek V3.2 none	DeepSeek	1	3.1	$0.054	0/3	14.5s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.054 Muda wa majibu (wastani) 14.5s

Chuja miundo

Modeli bora kwa Idadi ya Hakufuata maelekezo

Idadi ya Hakufuata maelekezo dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Hakufuata maelekezo

Chuja miundo

Modeli bora kwa Idadi ya Hakufuata maelekezo

Idadi ya Hakufuata maelekezo dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwaMakadirio yanahusu umeme wa GPU pekee. Hayajumuishi sehemu nyingine za kompyuta wala gharama ya kununua maunzi. NVIDIA GeForce RTX 3090: 2.8999 h × 0.300 kW × €0.2896/kWh × 1.138 USD/EUR = ~$0.286715.

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa