Orodha ya Uandishi wa msimbo x Hakufuata maelekezo

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Hakufuata maelekezo katika Uandishi wa msimbo, ili uone udhaifu haraka. Panga kwa: Muda wa majibu (wastani) ↓.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Seed-2.0-Code 1

Sababu za kushindwa

Jibu lisilo sahihi337 Hitilafu ya API51 Hakuna jibu39 Muda umeisha27 Hakufuata maelekezo25 Muundo wa ziada25

Kategoria

Utatuzi wa mafumbo120 Akili ya jumla108 Ufuataji wa maagizo46 Mbinu za kupinga AI42 Uandishi wa msimbo25 Mwito wa zana12 Uchanganuzi na uchimbaji wa data7 Mahususi kwa domeni2 Mchanganyiko1

25/25

Nafasi	Modeli	Kampuni	Idadi ya Hakufuata maelekezo	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#126	Seed-2.0-Code high	Bytedance Seed	1	6.2	$1.273	1/3	266.7s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $1.273 Muda wa majibu (wastani) 266.7s
#54	DeepSeek V4 Flash 0731 high	DeepSeek	1	6.3	$0.134	1/3	252.7s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.134 Muda wa majibu (wastani) 252.7s
#42	Qwen3.8 27B high	Qwen	1	8.1	~$0.287	2/3	248.6s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama ~$0.287 Muda wa majibu (wastani) 248.6s
#252	Trinity Large Thinking high	Arcee AI	1	3.7	$0.624	0/3	245.0s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.624 Muda wa majibu (wastani) 245.0s
#283	Ling 3.0 Tiny medium	Inclusionai	1	2.9	$0.000	0/3	212.0s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 212.0s
#176	Trinity Large Thinking medium	Arcee AI	1	7.5	$0.798	2/3	179.0s
Jumla ya majaribio 3 Majaribio yenye makosa 1 Jumla ya gharama $0.798 Muda wa majibu (wastani) 179.0s
#279	Ling 3.0 Tiny high	Inclusionai	1	2.9	$0.000	0/3	177.7s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 177.7s
#280	Ling 3.0 Tiny low	Inclusionai	1	2.9	$0.000	0/3	170.7s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 170.7s
#95	Qwen3.8 2.4T A95B high	Qwen	1	5.9	$2.357	1/3	160.5s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $2.357 Muda wa majibu (wastani) 160.5s
#282	Qwen3.5-9B medium	Qwen	1	2.9	$0.062	0/3	100.9s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.062 Muda wa majibu (wastani) 100.9s
#203	Kimi K2.6 none	Moonshot AI	1	5.5	$0.230	1/3	82.6s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.230 Muda wa majibu (wastani) 82.6s
#260	Cobuddy medium	Baidu	1	3.7	$0.000	0/3	79.2s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 79.2s
#259	Laguna M.1 medium	Poolside	1	1.5	$0.033	0/1	35.6s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.033 Muda wa majibu (wastani) 35.6s
#74	Claude Opus 4.6 medium	Anthropic	1	5.7	$2.961	1/3	30.1s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $2.961 Muda wa majibu (wastani) 30.1s
#258	Grok 4.1 Fast medium	X AI	1	7.8	$0.069	0/1	23.6s
Jumla ya majaribio 1 Majaribio yenye makosa 1 Jumla ya gharama $0.069 Muda wa majibu (wastani) 23.6s

Chuja miundo

Modeli bora kwa Idadi ya Hakufuata maelekezo

Idadi ya Hakufuata maelekezo dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Uandishi wa msimbo: Hakufuata maelekezo

Chuja miundo

Modeli bora kwa Idadi ya Hakufuata maelekezo

Idadi ya Hakufuata maelekezo dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwaMakadirio yanahusu umeme wa GPU pekee. Hayajumuishi sehemu nyingine za kompyuta wala gharama ya kununua maunzi. NVIDIA GeForce RTX 3090: 2.8999 h × 0.300 kW × €0.2896/kWh × 1.138 USD/EUR = ~$0.286715.

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa