Orodha ya Utatuzi wa mafumbo x Hitilafu ya API

Ona ni modeli gani za AI zina uwezekano mkubwa wa kupata Hitilafu ya API katika Utatuzi wa mafumbo, ili uone udhaifu haraka. Panga kwa: Majaribio sahihi ↑.

Modeli zilizoonyeshwa

Jumla ya kushindwa

Modeli iliyoathirika zaidi

Laguna M.1 1

Sababu za kushindwa

Jibu lisilo sahihi344 Hakufuata maelekezo160 Hitilafu ya API35 Muundo wa ziada16 Hakuna jibu14 Muda umeisha11

Kategoria

Uandishi wa msimbo65 Mchanganyiko62 Mbinu za kupinga AI44 Mahususi kwa domeni40 Mwito wa zana39 Kazi za mawakala36 Utatuzi wa mafumbo35 Uchanganuzi na uchimbaji wa data32 Ufuataji wa maagizo25 Maarifa ya jumla19

23/23

Nafasi	Modeli	Kampuni	Idadi ya Hitilafu ya API	Alama ya kategoria	Jumla ya gharama	Majaribio sahihi	Muda wa majibu (wastani)
#403	Laguna M.1 default	Poolside	1	0.3	$0.009	0/3	891ms
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.009 Muda wa majibu (wastani) 891ms
#408	Command A+ medium	Cohere	3	0.3	$0.064	0/3	92.1s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.064 Muda wa majibu (wastani) 92.1s
#414	Command A+ high	Cohere	3	0.3	$0.079	0/3	86.2s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.079 Muda wa majibu (wastani) 86.2s
#417	Command A+ none	Cohere	3	0.3	$0.000	0/3	88.1s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 88.1s
#418	Command A+ low	Cohere	3	0.3	$0.073	0/3	95.8s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.073 Muda wa majibu (wastani) 95.8s
#420	Nemotron 3 Nano Omni 30b A3b Reasoning medium	NVIDIA	1	0.3	$0.000	0/3	1.40s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 1.40s
#422	Nemotron 3 Nano Omni 30b A3b Reasoning default	NVIDIA	1	0.3	$0.000	0/3	532ms
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.000 Muda wa majibu (wastani) 532ms
#436	LFM2-24B-A2B default	Liquid	1	0.4	$0.001	0/3	1.78s
Jumla ya majaribio 3 Majaribio yenye makosa 3 Jumla ya gharama $0.001 Muda wa majibu (wastani) 1.78s
#40	Muse Wonder low	Meta	1	0.6	$2.637	1/3	5.08s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $2.637 Muda wa majibu (wastani) 5.08s
#43	Muse Wonder minimal	Meta	2	0.5	$1.639	1/3	1.36s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $1.639 Muda wa majibu (wastani) 1.36s
#131	Muse Wonder high	Meta	2	0.5	$3.426	1/3	3.78s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $3.426 Muda wa majibu (wastani) 3.78s
#139	Muse Wonder xhigh	Meta	2	0.5	$4.012	1/3	3.53s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $4.012 Muda wa majibu (wastani) 3.53s
#374	Hy3 preview low	Tencent	1	0.5	$0.042	1/3	7.51s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.042 Muda wa majibu (wastani) 7.51s
#389	Qwen3.6 Plus Preview medium	Qwen	2	0.5	$0.000	1/3	7.52s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.000 Muda wa majibu (wastani) 7.52s
#394	Laguna M.1 medium	Poolside	1	0.5	$0.033	1/3	10.2s
Jumla ya majaribio 3 Majaribio yenye makosa 2 Jumla ya gharama $0.033 Muda wa majibu (wastani) 10.2s

Chuja miundo

Modeli bora kwa Idadi ya Hitilafu ya API

Idadi ya Hitilafu ya API dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa

Utatuzi wa mafumbo: Hitilafu ya API

Chuja miundo

Modeli bora kwa Idadi ya Hitilafu ya API

Idadi ya Hitilafu ya API dhidi ya Alama

Modeli bora kwa Muda wa majibu (wastani)

Modeli bora kwa Gharama iliyopotezwa inayokadiriwa