Orodha ya Uandishi wa msimbo x Hakufuata maelekezo

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Hakufuata maelekezo katika Uandishi wa msimbo, ili uone udhaifu haraka.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Claude Sonnet 5.5 2

Sababu za kushindwa

Jibu lisilo sahihi456 Hitilafu ya API64 Hakufuata maelekezo41 Hakuna jibu41 Muundo wa ziada36 Muda umeisha24

Kategoria

Utatuzi wa mafumbo147 Akili ya jumla134 Ufuataji wa maagizo65 Mbinu za kupinga AI49 Uandishi wa msimbo41 Mwito wa zana12 Kazi za mawakala10 Uchanganuzi na uchimbaji wa data8 Mahususi kwa domeni3 Mchanganyiko1

38/38

Nafasi	Modeli	Kampuni	Idadi ya Hakufuata maelekezo	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#177	Claude Sonnet 5.5 low	Anthropic	2	0.3	$0.909	0/3	5.81s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.909 Muda wa majibu (wastani) 5.81s
#204	Claude Sonnet 5.5 medium	Anthropic	2	0.3	$1.100	0/3	6.07s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $1.100 Muda wa majibu (wastani) 6.07s
#243	Claude Fable 5.1 low	Anthropic	2	0.3	$3.395	0/3	6.75s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $3.395 Muda wa majibu (wastani) 6.75s
#56	Qwen3.8 27B high	Qwen	1	0.8	~$0.298	2/3	248.6s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama ~$0.298 Muda wa majibu (wastani) 248.6s
#64	Claude Haiku 5.5 low	Anthropic	1	0.8	$0.061	2/3	7.30s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.061 Muda wa majibu (wastani) 7.30s
#77	DeepSeek V4 Flash 0731 high	DeepSeek	1	0.6	$0.576	1/3	252.7s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.576 Muda wa majibu (wastani) 252.7s
#107	Gemini 3.5 Flash medium	Google	1	0.8	$1.316	2/3	12.6s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $1.316 Muda wa majibu (wastani) 12.6s
#108	Qwen3.8 2.4T A95B high	Qwen	1	0.6	$2.949	1/3	160.5s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $2.949 Muda wa majibu (wastani) 160.5s
#130	Mistral Large 4 high	Mistral	1	0.3	$1.391	0/3	1277.8s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $1.391 Muda wa majibu (wastani) 1277.8s
#131	Seed-2.0-Code high	Bytedance Seed	1	0.6	$1.448	1/3	266.7s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $1.448 Muda wa majibu (wastani) 266.7s
#139	DeepSeek V4 Pro 0423 none	DeepSeek	1	0.6	$0.083	1/3	13.4s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.083 Muda wa majibu (wastani) 13.4s
#160	Qwen3.8 Flash Next xhigh	Qwen	1	0.7	~$0.195	2/3	192.2s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama ~$0.195 Muda wa majibu (wastani) 192.2s
#178	Claude Opus 4.8 none	Anthropic	1	0.5	$2.334	1/3	3.29s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $2.334 Muda wa majibu (wastani) 3.29s
#198	GLM 5.2 none	Z.ai	1	0.4	$0.250	0/3	7.55s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.250 Muda wa majibu (wastani) 7.55s
#206	Mercury 2.5 Preview high	Inception	1	0.7	$0.040	1/3	6.13s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.040 Muda wa majibu (wastani) 6.13s

Chuja miundo

Modeli bora kwa Idadi ya Hakufuata maelekezo

Idadi ya Hakufuata maelekezo dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Hakufuata maelekezo

Chuja miundo

Modeli bora kwa Idadi ya Hakufuata maelekezo

Idadi ya Hakufuata maelekezo dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwaMakadirio yanahusu umeme wa GPU pekee. Hayajumuishi sehemu nyingine za kompyuta wala gharama ya kununua maunzi. NVIDIA GeForce RTX 3090: 3.0102 h × 0.300 kW × €0.2896/kWh × 1.138 USD/EUR = ~$0.297613.

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa