AI BENCHY
Advertise here
#60

Step 3.7 Flash

Stepfun रिलीज़: 2026-05-29 परीक्षण किया गया: 2026-05-29 11:49 stepfun/step-3.7-flash::low
198B कुल (11B सक्रिय)MoEमुक्त स्रोत

सारांश

Step 3.7 Flash AI BENCHY पर 7.4 स्कोर करता है और #60 पर है। इसकी reliability 10.0, pass rate 68.3%, कुल लागत $0.336, और औसत response time 16.06s है।

Step 3.7 Flash को अलग क्या बनाता है: यह कोडिंग में सबसे अलग दिखता है, जहाँ इसकी रैंक #1 है; जबकि Samanya Buddhimatta इसकी सबसे कमजोर जगह है, जहाँ यह #18 पर है।

मॉडल विवरण

शोध की तारीख: 2026-08-12

घोषित
पैरामीटर
198B कुल (11B सक्रिय)
आर्किटेक्चर
MoE
उपलब्धता
मुक्त स्रोत
लाइसेंस
Apache-2.0

संगति

8.7

कुल आउटपुट टोकन

285,209

कुल इनपुट टोकन

0

इनपुट कीमत

$0.200 / 1M

आउटपुट कीमत

$1.150 / 1M

सही परीक्षण

गलत टेस्ट: 8

प्रति प्रयास पास दर: 68.3%

अस्थिर टेस्ट

3

अस्थिर टेस्ट में रनों के बीच मिले-जुले परिणाम रहे (कम से कम एक पास और एक फेल)।

प्रतिक्रिया समय (औसत)

16.06s

प्रतिक्रिया समय (अधिकतम): 124.75s

प्रतिक्रिया समय (कुल): 321.11s

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#60 Step 3.7 Flash

low
अमान्य SVG
लागत
$0.004
समय
25.3s
टोकन
3,072 tok

रन इतिहास

परीक्षण किया गया स्कोर विश्वसनीयता सही परीक्षण कुल लागत तुलना करें
2026-08-14 02:29 दोबारा परीक्षण 7.1 10.0 $0.390 तुलना करें
2026-07-16 22:46 नया टेस्ट जोड़ा गया 7.3 10.0 $0.454 तुलना करें
2026-06-04 13:49 नया टेस्ट जोड़ा गया 7.3 10.0 $0.341 तुलना करें
2026-05-29 11:49 पहला रन 7.4 10.0 $0.336 वर्तमान रन

रन तुलना

रनबेंचमार्क कवरेजस्कोरसंगतिविश्वसनीयतासही परीक्षणअस्थिर टेस्टकुल आउटपुट टोकनकुल इनपुट टोकनकुल लागतप्रतिक्रिया समय (औसत)
2026-05-29 11:49 · पहला रन60/60 प्रयास7.48.710.012/203285,2090$0.33616.06s
2026-08-14 02:29 · दोबारा परीक्षण66/66 प्रयास7.18.110.011/225320,393103,842$0.39017.87s
अंतर+0.3+0.60.0+1-2-35184-103842-$0.054-1810ms

बेंचमार्क कवरेज अलग है: 60/60 प्रयास (लक्ष्य: प्रति टेस्ट 3 दोहराव) बनाम 66/66 प्रयास (लक्ष्य: प्रति टेस्ट 3 दोहराव)। कुल और दोहराव-संवेदनशील मेट्रिक सीधे तुलना योग्य नहीं हैं।

इन दो रन में अलग-अलग बेंचमार्क सूट इस्तेमाल हुए थे, इसलिए अंतर मॉडल बदलाव और सूट बदलाव दोनों को दर्शाते हैं।

चार्ट

पहले मॉडल चुनें, फिर दूसरा मॉडल क्लिक करके साइड-बाय-साइड पेज खोलें।

कुल आउटपुट टोकन

स्कोर vs कुल आउटपुट टोकन

त्वरित तुलना

श्रेणी विवरण

श्रेणी स्कोर संगति सही परीक्षण
एंटी-एआई ट्रिक्स 8.7 7.9
कोडिंग 10.0 10.0
संयुक्त 10.0 10.0
डेटा पार्सिंग और निष्कर्षण 7.3 5.8
डोमेन-विशिष्ट 5.3 7.2
Samanya Buddhimatta 3.4 9.3
निर्देश पालन 9.8 10.0
पहेली समाधान 5.5 9.9
टूल कॉलिंग 10.0 10.0
सामान्य ज्ञान 3.0 10.0

तुलना किए गए मॉडल