कोडी सोडवणे x चुकीचे उत्तर क्रमवारी

AI BENCHY श्रेणी अपयशे

कोडी सोडवणे मध्ये कोणत्या AI मॉडेल्सना चुकीचे उत्तर येण्याची शक्यता जास्त आहे ते पाहा, म्हणजे कमकुवत बाजू लवकर ओळखता येतील.

दाखवलेली मॉडेल्स

एकूण अपयशे

147

सर्वाधिक प्रभावित मॉडेल

अयशस्वी होण्याची कारणे

चुकीचे उत्तर147 सूचनांचे पालन केले नाही78 API त्रुटी13 अतिरिक्त फॉरमॅटिंग5 वेळ संपला5 उत्तर नाही1

श्रेणी

डोमेन-विशिष्ट314 अँटी-एआय युक्त्या245 कोडिंग194 कोडी सोडवणे147 सामान्य ज्ञान130 सूचनांचे पालन53 संयुक्त52 डेटा पार्सिंग आणि निष्कर्षण35 Samanya Buddhimatta32 टूल कॉलिंग2

क्रमांक	मॉडेल	कंपनी	चुकीचे उत्तर संख्या	श्रेणी स्कोअर	बरोबर चाचण्या	प्रतिसाद वेळ (सरासरी)
#124	Kimi K2.6 none	Moonshot AI	2	3.1	0/3	1.40s
#127	Grok 4.20 none	X AI	2	5.3	1/3	473ms
#128	Qwen3.6 Flash none	Qwen	2	3.5	0/3	1.21s
#131	Qwen3.5-122B-A10B none	Qwen	2	3.8	0/3	1.00s
#132	Mistral Small 4 medium	Mistral	2	3.4	0/3	2.17s
#137	Elephant Alpha none	Openrouter	2	4.2	0/3	807ms
#138	Ling-2.6-flash none	Inclusionai	2	2.9	0/3	6.51s
#142	Mistral Small 4 none	Mistral	2	3.1	0/3	399ms
#145	Laguna M.1 none	Poolside	2	3.0	0/3	891ms
#147	GPT-4o-mini none	OpenAI	2	3.5	0/3	1.21s
#149	Nemotron 3 Nano Omni 30b A3b Reasoning medium	NVIDIA	2	2.9	0/3	1.40s
#150	Qwen3 Coder Next medium	Qwen	2	3.0	0/3	1.25s
#151	Trinity Large Preview none	Arcee AI	2	3.6	0/3	1.97s
#152	MiMo-V2-Flash none	Xiaomi	2	5.3	1/3	1.86s
#154	Qwen3.5-9B none	Qwen	2	3.2	0/3	621ms

←

1 2 3 8

→

चुकीचे उत्तर संख्या नुसार शीर्ष मॉडेल्स