AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs OpenAI: GPT-5.4 Mini

सारांश

average score जवळपास समान आहे: 8.0 vs 8.0. KAT-Coder-Pro V2.5 (low) चा benchmark खर्च कमी आहे: $0.220 vs $0.526. KAT-Coder-Pro V2.5 (low) वेगवान आहे: 10.44s vs 22.34s, pass rates 71.4% vs 73.0%.

शिफारस केलेले मॉडेलKAT-Coder-Pro V2.5 (low)It has the best score here (8.0), while costing about 2.4x less than GPT-5.4 Mini (medium).

AI BENCHY टेस्ट सूटमधून बेंचमार्क या वेळी तयार झाले: 2026-07-14

मेट्रिक	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low प्रकाशन: 2026-07-14	GPT-5.4 Mini GPT-5.4 Mini medium प्रकाशन: 2026-03-17

मेट्रिक	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low प्रकाशन: 2026-07-14	GPT-5.4 Mini GPT-5.4 Mini medium प्रकाशन: 2026-03-17
स्कोअर	8.0	8.0
क्रमांक	#35	#33
विश्वसनीयता	9.9	10.0
सुसंगतता	7.3	8.0
बरोबर चाचण्या
प्रति प्रयत्न पास दर	71.4%	73.0%
अस्थिर चाचण्या	7	5
एकूण रन	63	63
प्रति निकाल खर्च	1.991	4.381
एकूण खर्च	$0.220	$0.526
इनपुट किंमत	$0.740 / 1M	$0.750 / 1M
आउटपुट किंमत	$2.960 / 1M	$4.500 / 1M
एकूण इनपुट टोकन्स	42,750	34,116
आउटपुट टोकन्स	2,167	2,181
रिझनिंग टोकन्स	61,133	108,937
प्रतिसाद वेळ (सरासरी)	10.44s	22.34s
प्रतिसाद वेळ (कमाल)	51.34s	138.75s
प्रतिसाद वेळ (एकूण)	219.17s	469.20s

जनरेशन शोकेस

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#35 KAT-Coder-Pro V2.5

low

खर्च: $0.016
वेळ: 47.6s
टोकन्स: 5,182 tok

#33 GPT-5.4 Mini

medium

खर्च: $0.056
वेळ: 95.5s
टोकन्स: 12,464 tok

स्कोअरनुसार शीर्ष मॉडेल्स

स्कोअर विरुद्ध एकूण खर्च

प्रतिसाद वेळ (सरासरी)

स्कोअर vs प्रतिसाद वेळ (सरासरी)

एकूण आउटपुट टोकन्स

स्कोअर vs एकूण आउटपुट टोकन्स

श्रेणीवार तपशील

श्रेणी:

अँटी-एआय युक्त्या	स्कोअर	सुसंगतता	प्रति प्रयत्न पास दर	अस्थिर चाचण्या	बरोबर चाचण्या	प्रतिसाद वेळ (सरासरी)	इनपुट टोकन्स	आउटपुट टोकन्स	रिझनिंग टोकन्स
KAT-Coder-Pro V2.5	6.9	5.8	75.0%	2		4.20s	672	277	4,228
GPT-5.4 Mini	8.6	7.9	91.7%	1		4.05s	606	296	2,876

कोडिंग	स्कोअर	सुसंगतता	प्रति प्रयत्न पास दर	अस्थिर चाचण्या	बरोबर चाचण्या	प्रतिसाद वेळ (सरासरी)	इनपुट टोकन्स	आउटपुट टोकन्स	रिझनिंग टोकन्स
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		24.87s	7,893	402	24,945
GPT-5.4 Mini	8.4	7.4	88.9%	1		57.87s	7,305	467	40,902

संयुक्त	स्कोअर	सुसंगतता	प्रति प्रयत्न पास दर	अस्थिर चाचण्या	बरोबर चाचण्या	प्रतिसाद वेळ (सरासरी)	इनपुट टोकन्स	आउटपुट टोकन्स	रिझनिंग टोकन्स
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.59s	15,132	394	3,391
GPT-5.4 Mini	10.0	10.0	100.0%	0		17.81s	11,019	317	4,317

डेटा पार्सिंग आणि निष्कर्षण	स्कोअर	सुसंगतता	प्रति प्रयत्न पास दर	अस्थिर चाचण्या	बरोबर चाचण्या	प्रतिसाद वेळ (सरासरी)	इनपुट टोकन्स	आउटपुट टोकन्स	रिझनिंग टोकन्स
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.19s	7,776	288	1,917
GPT-5.4 Mini	10.0	10.0	100.0%	0		2.43s	7,140	234	650

डोमेन-विशिष्ट	स्कोअर	सुसंगतता	प्रति प्रयत्न पास दर	अस्थिर चाचण्या	बरोबर चाचण्या	प्रतिसाद वेळ (सरासरी)	इनपुट टोकन्स	आउटपुट टोकन्स	रिझनिंग टोकन्स
KAT-Coder-Pro V2.5	4.1	4.4	44.5%	2		17.52s	771	35	16,877
GPT-5.4 Mini	4.1	4.4	44.5%	2		65.31s	619	60	43,286

Samanya Buddhimatta	स्कोअर	सुसंगतता	प्रति प्रयत्न पास दर	अस्थिर चाचण्या	बरोबर चाचण्या	प्रतिसाद वेळ (सरासरी)	इनपुट टोकन्स	आउटपुट टोकन्स	रिझनिंग टोकन्स
KAT-Coder-Pro V2.5	4.1	2.7	33.3%	1		2.32s	516	99	412
GPT-5.4 Mini	4.5	10.0	0.0%	0		3.72s	477	150	510

सूचनांचे पालन	स्कोअर	सुसंगतता	प्रति प्रयत्न पास दर	अस्थिर चाचण्या	बरोबर चाचण्या	प्रतिसाद वेळ (सरासरी)	इनपुट टोकन्स	आउटपुट टोकन्स	रिझनिंग टोकन्स
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		2.53s	699	83	1,008
GPT-5.4 Mini	9.8	10.0	100.0%	0		2.13s	660	96	1,185

कोडी सोडवणे	स्कोअर	सुसंगतता	प्रति प्रयत्न पास दर	अस्थिर चाचण्या	बरोबर चाचण्या	प्रतिसाद वेळ (सरासरी)	इनपुट टोकन्स	आउटपुट टोकन्स	रिझनिंग टोकन्स
KAT-Coder-Pro V2.5	6.4	4.4	77.8%	2		3.11s	696	289	1,820
GPT-5.4 Mini	7.8	10.0	66.7%	0		4.37s	642	278	2,443

टूल कॉलिंग	स्कोअर	सुसंगतता	प्रति प्रयत्न पास दर	अस्थिर चाचण्या	बरोबर चाचण्या	प्रतिसाद वेळ (सरासरी)	इनपुट टोकन्स	आउटपुट टोकन्स	रिझनिंग टोकन्स
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		18.45s	8,391	282	834
GPT-5.4 Mini	4.7	1.6	66.7%	1		9.62s	5,453	251	2,594

सामान्य ज्ञान	स्कोअर	सुसंगतता	प्रति प्रयत्न पास दर	अस्थिर चाचण्या	बरोबर चाचण्या	प्रतिसाद वेळ (सरासरी)	इनपुट टोकन्स	आउटपुट टोकन्स	रिझनिंग टोकन्स
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		17.06s	204	18	5,701
GPT-5.4 Mini	3.0	10.0	0.0%	0		30.10s	195	32	10,174

झटपट तुलना

तुलना जोडी बदला

GPT-5.4 MinimediumvsGLM 5.2high KAT-Coder-Pro V2.5lowvsQwen3.5 Plus 2026-02-15medium KAT-Coder-Pro V2.5lowvsGLM 5.2high KAT-Coder-Pro V2.5lowvsQwen3.5-27Bmedium Claude Sonnet 5mediumvsKAT-Coder-Pro V2.5low KAT-Coder-Pro V2.5lowvsQwen3.6 Plusmedium KAT-Coder-Pro V2.5lowvsGPT-5.6 Terramedium Claude Sonnet 4.6mediumvsKAT-Coder-Pro V2.5low KAT-Coder-Pro V2.5lowvsNemotron 3 Ultra 550b A55bmediumमोफत उपलब्ध Gemini 3.1 Flash Lite PreviewmediumvsKAT-Coder-Pro V2.5low GPT-5.4 MinimediumvsGrok 4.5low KAT-Coder-Pro V2.5lowvsQwen3.5 Plus 2026-04-20medium