AI BENCHY श्रेणी अपयशे
कोडी सोडवणे: चुकीचे उत्तर
कोडी सोडवणे
चुकीचे उत्तर
कोडी सोडवणे मध्ये कोणत्या AI मॉडेल्सना चुकीचे उत्तर येण्याची शक्यता जास्त आहे ते पाहा, म्हणजे कमकुवत बाजू लवकर ओळखता येतील.
अयशस्वी होण्याची कारणे
| क्रमांक | मॉडेल | कंपनी | चुकीचे उत्तर संख्या | श्रेणी स्कोअर | बरोबर चाचण्या | प्रतिसाद वेळ (सरासरी) |
|---|---|---|---|---|---|---|
| #86 | GPT-5.4 Mini none | OpenAI | 1 | 5.4 | 1/3 | 860ms |
| #88 | Nemotron 3 Super none | NVIDIA | 1 | 5.7 | 1/3 | 7.50s |
| #90 | Qwen3.5-9B none | Qwen | 1 | 3.2 | 0/3 | 683ms |
| #92 | Qwen3 Coder Next medium | Qwen | 1 | 3.1 | 0/3 | 2.30s |
| #98 | LFM2-24B-A2B none | Liquid | 1 | 4.4 | 0/3 | 1.69s |