AI BENCHY 对比

Kwaipilot: KAT-Coder-Pro V2.5 vs OpenAI: GPT-5.4

摘要

GPT-5.4 (medium) 平均分领先，为 8.5 vs 8.0。 KAT-Coder-Pro V2.5 (low) benchmark 成本更低，为 $0.220 vs $1.210。 KAT-Coder-Pro V2.5 (low) 更快，为 10.44s vs 22.35s，通过率为 71.4% vs 76.2%。

推荐模型KAT-Coder-Pro V2.5 (low)它的得分接近这里的最高分（8.0 vs 8.5），同时成本比GPT-5.4 (medium)低约 5.5 倍。

基准结果生成自 AI BENCHY 测试套件，时间：: 2026-07-14

指标	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low 发布日期: 2026-07-14	GPT-5.4 GPT-5.4 medium 发布日期: 2026-03-05

指标	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low 发布日期: 2026-07-14	GPT-5.4 GPT-5.4 medium 发布日期: 2026-03-05
分数	8.0	8.5
排名	#35	#20
可靠性	9.9	10.0
一致性	7.3	8.6
测试正确
尝试通过率	71.4%	76.2%
不稳定测试	7	4
总运行次数	63	63
每个结果成本	1.991	8.640
总成本	$0.220	$1.210
输入价格	$0.740 / 1M	$2.500 / 1M
输出价格	$2.960 / 1M	$15.000 / 1M
总输入令牌	42,750	34,108
输出令牌	2,167	2,242
推理令牌	61,133	72,707
响应时间（平均）	10.44s	22.35s
响应时间（最大）	51.34s	100.41s
响应时间（总计）	219.17s	469.29s

生成展示

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#35 KAT-Coder-Pro V2.5

low

成本: $0.016
时间: 47.6s
令牌: 5,182 tok

#20 GPT-5.4

medium

成本: $0.214
时间: 199.6s
令牌: 14,349 tok

按分数排名的模型

分数 vs 总成本

响应时间（平均）

分数 vs 响应时间（平均）

总输出令牌

分数 vs 总输出令牌

类别细分

类别:

反AI技巧	分数	一致性	尝试通过率	不稳定测试	测试正确	响应时间（平均）	输入令牌	输出令牌	推理令牌
KAT-Coder-Pro V2.5	6.9	5.8	75.0%	2		4.20s	672	277	4,228
GPT-5.4	8.3	10.0	75.0%	0		4.11s	606	240	1,511

编程	分数	一致性	尝试通过率	不稳定测试	测试正确	响应时间（平均）	输入令牌	输出令牌	推理令牌
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		24.87s	7,893	402	24,945
GPT-5.4	8.8	7.8	88.9%	1		44.36s	7,305	433	24,216

综合	分数	一致性	尝试通过率	不稳定测试	测试正确	响应时间（平均）	输入令牌	输出令牌	推理令牌
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.59s	15,132	394	3,391
GPT-5.4	10.0	10.0	100.0%	0		20.57s	11,019	301	3,543

数据解析与提取	分数	一致性	尝试通过率	不稳定测试	测试正确	响应时间（平均）	输入令牌	输出令牌	推理令牌
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.19s	7,776	288	1,917
GPT-5.4	10.0	10.0	100.0%	0		5.32s	7,140	234	804

领域专项	分数	一致性	尝试通过率	不稳定测试	测试正确	响应时间（平均）	输入令牌	输出令牌	推理令牌
KAT-Coder-Pro V2.5	4.1	4.4	44.5%	2		17.52s	771	35	16,877
GPT-5.4	5.3	7.2	44.4%	1		74.27s	619	61	34,748

通用智能	分数	一致性	尝试通过率	不稳定测试	测试正确	响应时间（平均）	输入令牌	输出令牌	推理令牌
KAT-Coder-Pro V2.5	4.1	2.7	33.3%	1		2.32s	516	99	412
GPT-5.4	4.7	3.1	33.3%	1		4.92s	477	145	321

指令遵循	分数	一致性	尝试通过率	不稳定测试	测试正确	响应时间（平均）	输入令牌	输出令牌	推理令牌
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		2.53s	699	83	1,008
GPT-5.4	10.0	10.0	100.0%	0		3.11s	660	93	897

谜题求解	分数	一致性	尝试通过率	不稳定测试	测试正确	响应时间（平均）	输入令牌	输出令牌	推理令牌
KAT-Coder-Pro V2.5	6.4	4.4	77.8%	2		3.11s	696	289	1,820
GPT-5.4	8.2	7.2	88.9%	1		9.14s	642	441	3,815

工具调用	分数	一致性	尝试通过率	不稳定测试	测试正确	响应时间（平均）	输入令牌	输出令牌	推理令牌
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		18.45s	8,391	282	834
GPT-5.4	10.0	10.0	100.0%	0		13.28s	5,445	264	1,031

常识问答	分数	一致性	尝试通过率	不稳定测试	测试正确	响应时间（平均）	输入令牌	输出令牌	推理令牌
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		17.06s	204	18	5,701
GPT-5.4	3.0	10.0	0.0%	0		13.95s	195	30	1,821

快速对比

切换对比组合