Orodha ya Uandishi wa msimbo x Hakufuata maelekezo

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Hakufuata maelekezo katika Uandishi wa msimbo, ili uone udhaifu haraka. Panga kwa: Majaribio sahihi ↓.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Qwen3.8 27B 1

Sababu za kushindwa

Jibu lisilo sahihi456 Hitilafu ya API64 Hakufuata maelekezo41 Hakuna jibu41 Muundo wa ziada36 Muda umeisha24

Kategoria

Utatuzi wa mafumbo147 Akili ya jumla134 Ufuataji wa maagizo65 Mbinu za kupinga AI49 Uandishi wa msimbo41 Mwito wa zana12 Kazi za mawakala10 Uchanganuzi na uchimbaji wa data8 Mahususi kwa domeni3 Mchanganyiko1

38/38

Nafasi	Modeli	Kampuni	Idadi ya Hakufuata maelekezo	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#56	Qwen3.8 27B high	Qwen	1	0.8	~$0.298	2/3	248.6s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama ~$0.298 Muda wa majibu (wastani) 248.6s
#64	Claude Haiku 5.5 low	Anthropic	1	0.8	$0.061	2/3	7.30s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.061 Muda wa majibu (wastani) 7.30s
#107	Gemini 3.5 Flash medium	Google	1	0.8	$1.316	2/3	12.6s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $1.316 Muda wa majibu (wastani) 12.6s
#160	Qwen3.8 Flash Next xhigh	Qwen	1	0.7	~$0.195	2/3	192.2s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama ~$0.195 Muda wa majibu (wastani) 192.2s
#245	Trinity Large Thinking medium	Arcee AI	1	0.8	$0.862	2/3	179.0s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.862 Muda wa majibu (wastani) 179.0s
#77	DeepSeek V4 Flash 0731 high	DeepSeek	1	0.6	$0.576	1/3	252.7s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.576 Muda wa majibu (wastani) 252.7s
#108	Qwen3.8 2.4T A95B high	Qwen	1	0.6	$2.949	1/3	160.5s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $2.949 Muda wa majibu (wastani) 160.5s
#131	Seed-2.0-Code high	Bytedance Seed	1	0.6	$1.448	1/3	266.7s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $1.448 Muda wa majibu (wastani) 266.7s
#139	DeepSeek V4 Pro 0423 none	DeepSeek	1	0.6	$0.083	1/3	13.4s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.083 Muda wa majibu (wastani) 13.4s
#178	Claude Opus 4.8 none	Anthropic	1	0.5	$2.334	1/3	3.29s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $2.334 Muda wa majibu (wastani) 3.29s
#206	Mercury 2.5 Preview high	Inception	1	0.7	$0.040	1/3	6.13s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.040 Muda wa majibu (wastani) 6.13s
#219	Gemini 3.5 Flash minimal	Google	1	0.6	$0.508	1/3	2.75s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.508 Muda wa majibu (wastani) 2.75s
#231	Ling 3.1 Flash low	Inclusionai	1	0.6	$0.000	1/3	107.3s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.000 Muda wa majibu (wastani) 107.3s
#232	Claude Opus 4.6 medium	Anthropic	1	0.6	$2.961	1/3	30.1s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $2.961 Muda wa majibu (wastani) 30.1s
#266	DeepSeek V4.1 Flash none	DeepSeek	1	0.6	$0.391	1/3	83.7s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.391 Muda wa majibu (wastani) 83.7s

Chuja miundo

Modeli bora kwa Idadi ya Hakufuata maelekezo

Idadi ya Hakufuata maelekezo dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Hakufuata maelekezo

Chuja miundo

Modeli bora kwa Idadi ya Hakufuata maelekezo

Idadi ya Hakufuata maelekezo dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwaMakadirio yanahusu umeme wa GPU pekee. Hayajumuishi sehemu nyingine za kompyuta wala gharama ya kununua maunzi. NVIDIA GeForce RTX 3090: 3.0102 h × 0.300 kW × €0.2896/kWh × 1.138 USD/EUR = ~$0.297613.

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa