AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs StepFun: Step 3.7 Flash

Samenvatting

Step 3.7 Flash (medium) leidt in gemiddelde score met 8.5 vs 8.0. KAT-Coder-Pro V2.5 (low) heeft lagere benchmarkkosten met $0.220 vs $0.376. KAT-Coder-Pro V2.5 (low) is sneller met 10.44s vs 20.35s, met slagingspercentages van 71.4% vs 73.0%.

Aanbevolen modelKAT-Coder-Pro V2.5 (low)De score blijft dicht bij de beste score hier (8.0 vs 8.5) en het kost ongeveer 1.7x minder dan Step 3.7 Flash (medium).

Benchmarks gegenereerd uit AI BENCHY-testsuites op: 2026-07-14

Metriek	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low Releasedatum: 2026-07-14	Step 3.7 Flash Step 3.7 Flash medium Releasedatum: 2026-05-29

Metriek	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low Releasedatum: 2026-07-14	Step 3.7 Flash Step 3.7 Flash medium Releasedatum: 2026-05-29
Score	8.0	8.5
Rang	#35	#23
Betrouwbaarheid	9.9	9.9
Consistentie	7.3	9.3
Correcte tests
Slaagpercentage per poging	71.4%	73.0%
Instabiele tests	7	2
Totaal runs	63	61
Kosten per resultaat	1.991	2.686
Totale kosten	$0.220	$0.376
Invoerprijs	$0.740 / 1M	$0.200 / 1M
Uitvoerprijs	$2.960 / 1M	$1.150 / 1M
Totaal aantal invoer-tokens	42,750	39,981
Uitvoer-tokens	2,167	319,958
Redeneer-tokens	61,133	0
Responstijd (gem.)	10.44s	20.35s
Responstijd (max)	51.34s	113.98s
Responstijd (totaal)	219.17s	427.42s

Generatie-showcase

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#35 KAT-Coder-Pro V2.5

low

Kosten: $0.016
Tijd: 47.6s
Tokens: 5,182 tok

#23 Step 3.7 Flash

medium

Kosten: $0.006
Tijd: 46.2s
Tokens: 4,466 tok

Topmodellen op score

Score vs totale kosten

Responstijd (gem.)

Score vs Responstijd (gem.)

Totaal aantal uitvoer-tokens

Score vs Totaal aantal uitvoer-tokens

Categorie-uitsplitsing

Categorie:

Anti-AI-trucs	Score	Consistentie	Slaagpercentage per poging	Instabiele tests	Correcte tests	Responstijd (gem.)	Invoer-tokens	Uitvoer-tokens	Redeneer-tokens
KAT-Coder-Pro V2.5	6.9	5.8	75.0%	2		4.20s	672	277	4,228
Step 3.7 Flash	8.7	7.9	91.7%	1		9.65s	756	32,185	0

Programmeren	Score	Consistentie	Slaagpercentage per poging	Instabiele tests	Correcte tests	Responstijd (gem.)	Invoer-tokens	Uitvoer-tokens	Redeneer-tokens
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		24.87s	7,893	402	24,945
Step 3.7 Flash	8.8	7.8	88.9%	1		27.42s	7,437	44,797	0

Gecombineerd	Score	Consistentie	Slaagpercentage per poging	Instabiele tests	Correcte tests	Responstijd (gem.)	Invoer-tokens	Uitvoer-tokens	Redeneer-tokens
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.59s	15,132	394	3,391
Step 3.7 Flash	10.0	10.0	100.0%	0		9.06s	13,683	7,106	0

Gegevensparsering en extractie	Score	Consistentie	Slaagpercentage per poging	Instabiele tests	Correcte tests	Responstijd (gem.)	Invoer-tokens	Uitvoer-tokens	Redeneer-tokens
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.19s	7,776	288	1,917
Step 3.7 Flash	10.0	10.0	100.0%	0		2.75s	7,398	3,020	0

Domeinspecifiek	Score	Consistentie	Slaagpercentage per poging	Instabiele tests	Correcte tests	Responstijd (gem.)	Invoer-tokens	Uitvoer-tokens	Redeneer-tokens
KAT-Coder-Pro V2.5	4.1	4.4	44.5%	2		17.52s	771	35	16,877
Step 3.7 Flash	7.7	10.0	66.7%	0		48.27s	708	70,347	0

Algemene intelligentie	Score	Consistentie	Slaagpercentage per poging	Instabiele tests	Correcte tests	Responstijd (gem.)	Invoer-tokens	Uitvoer-tokens	Redeneer-tokens
KAT-Coder-Pro V2.5	4.1	2.7	33.3%	1		2.32s	516	99	412
Step 3.7 Flash	4.0	10.0	0.0%	0		6.85s	525	3,987	0

Instructies opvolgen	Score	Consistentie	Slaagpercentage per poging	Instabiele tests	Correcte tests	Responstijd (gem.)	Invoer-tokens	Uitvoer-tokens	Redeneer-tokens
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		2.53s	699	83	1,008
Step 3.7 Flash	9.8	10.0	100.0%	0		1.83s	735	2,166	0

Puzzeloplossing	Score	Consistentie	Slaagpercentage per poging	Instabiele tests	Correcte tests	Responstijd (gem.)	Invoer-tokens	Uitvoer-tokens	Redeneer-tokens
KAT-Coder-Pro V2.5	6.4	4.4	77.8%	2		3.11s	696	289	1,820
Step 3.7 Flash	5.7	9.9	33.3%	0		6.19s	756	15,071	0

Toolaanroepen	Score	Consistentie	Slaagpercentage per poging	Instabiele tests	Correcte tests	Responstijd (gem.)	Invoer-tokens	Uitvoer-tokens	Redeneer-tokens
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		18.45s	8,391	282	834
Step 3.7 Flash	10.0	10.0	100.0%	0		4.16s	7,746	2,115	0

Algemene kennis	Score	Consistentie	Slaagpercentage per poging	Instabiele tests	Correcte tests	Responstijd (gem.)	Invoer-tokens	Uitvoer-tokens	Redeneer-tokens
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		17.06s	204	18	5,701
Step 3.7 Flash	3.0	10.0	0.0%	0		113.98s	237	139,164	0

Snelle vergelijking

Vergelijkingspaar wisselen