AI BENCHY श्रेणी अपयशे
सूचनांचे पालन: चुकीचे उत्तर
सूचनांचे पालन
चुकीचे उत्तर
सूचनांचे पालन मध्ये कोणत्या AI मॉडेल्सना चुकीचे उत्तर येण्याची शक्यता जास्त आहे ते पाहा, म्हणजे कमकुवत बाजू लवकर ओळखता येतील.
अयशस्वी होण्याची कारणे
| क्रमांक | मॉडेल | कंपनी | चुकीचे उत्तर संख्या | श्रेणी स्कोअर | बरोबर चाचण्या | प्रतिसाद वेळ (सरासरी) |
|---|---|---|---|---|---|---|
| #62 | Gemini 2.5 Flash none | 1 | 8.0 | 1/2 | 672ms | |
| #63 | Qwen3.5-35B-A3B none | Qwen | 1 | 6.3 | 1/2 | 809ms |
| #65 | MiMo-V2-Pro none | Xiaomi | 1 | 6.5 | 1/2 | 2.51s |
| #66 | GPT-5.4 none | OpenAI | 1 | 6.5 | 1/2 | 1.07s |
| #69 | Kimi K2.6 none | Moonshot AI | 1 | 6.5 | 1/2 | 1.64s |
| #72 | Hunter Alpha none | OpenRouter | 1 | 6.4 | 1/2 | 2.82s |
| #73 | Mistral Small 4 medium | Mistral | 1 | 7.3 | 1/2 | 1.38s |
| #74 | GLM 4.7 Flash none | Z.ai | 1 | 6.5 | 1/2 | 888ms |
| #76 | Kimi K2.5 none | Moonshot AI | 1 | 6.5 | 1/2 | 2.67s |
| #77 | GLM 5 Turbo none | Z.ai | 1 | 6.5 | 1/2 | 2.13s |
| #78 | Trinity Large Preview none | Arcee AI | 1 | 4.1 | 0/2 | 1.09s |
| #79 | Grok 4.20 Beta none | X AI | 1 | 4.8 | 0/2 | 687ms |
| #80 | MiniMax M2.7 medium | Minimax | 1 | 3.7 | 0/2 | 12.6s |
| #82 | Grok 4.20 none | X AI | 1 | 4.8 | 0/2 | 455ms |
| #83 | Mistral Small 4 none | Mistral | 1 | 6.5 | 1/2 | 380ms |