AI BENCHY श्रेणी अपयशे
कोडिंग: चुकीचे उत्तर
कोडिंग
चुकीचे उत्तर
कोडिंग मध्ये कोणत्या AI मॉडेल्सना चुकीचे उत्तर येण्याची शक्यता जास्त आहे ते पाहा, म्हणजे कमकुवत बाजू लवकर ओळखता येतील.
अयशस्वी होण्याची कारणे
134/134
मॉडेल फिल्टर करा
सध्याच्या शोध आणि फिल्टर्सशी जुळणारी कोणतीही मॉडेल्स नाहीत.
| क्रमांक | मॉडेल | कंपनी | चुकीचे उत्तर संख्या | श्रेणी स्कोअर | एकूण खर्च | बरोबर चाचण्या | प्रतिसाद वेळ (सरासरी) |
|---|---|---|---|---|---|---|---|
| #98 | Gemini 3.1 Flash Lite Preview none | 2 | 5.5 | $0.018 | 1/3 | 967ms | |
| #99 | Gemini 3.1 Flash Lite low | 2 | 5.5 | $0.028 | 1/3 | 1.53s | |
| #102 | GPT-5.6 Sol none | OpenAI | 2 | 5.5 | $0.225 | 1/3 | 1.39s |
| #105 | GPT-5.5 none | OpenAI | 2 | 5.5 | $0.231 | 1/3 | 1.35s |
| #107 | Seed-2.0-Lite none | Bytedance Seed | 2 | 5.6 | $0.019 | 1/3 | 2.83s |
| #108 | GPT-5.6 Luna low | OpenAI | 2 | 5.5 | $0.141 | 1/3 | 4.61s |
| #109 | Gemini 2.5 Flash none | 2 | 5.5 | $0.016 | 1/3 | 736ms | |
| #110 | Gemini 3.1 Flash Lite minimal | 2 | 5.5 | $0.013 | 1/3 | 831ms | |
| #112 | Gemini 3.1 Flash Lite none | 2 | 5.5 | $0.013 | 1/3 | 938ms | |
| #113 | Qwen3.5-Flash none | Qwen | 2 | 5.5 | $0.005 | 1/3 | 850ms |
| #114 | Gemma 4 31B none | 2 | 5.5 | $0.004 | 1/3 | 11.2s | |
| #115 | Nemotron 3 Ultra 550b A55b none | NVIDIA | 2 | 5.5 | $0.027 | 1/3 | 1.02s |
| #117 | GPT-5.6 Terra none | OpenAI | 2 | 5.5 | $0.130 | 1/3 | 1.00s |
| #119 | Qwen3.6 Flash none | Qwen | 2 | 5.4 | $0.015 | 1/3 | 1.79s |
| #120 | Qwen3.5-35B-A3B none | Qwen | 2 | 5.5 | $0.012 | 1/3 | 1.39s |