AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs OpenAI: GPT-5.4

Resumo

GPT-5.4 (medium) lidera na pontuação média com 8.5 vs 8.0. KAT-Coder-Pro V2.5 (low) tem menor custo de benchmark com $0.220 vs $1.210. KAT-Coder-Pro V2.5 (low) é mais rápido com 10.44s vs 22.35s, com taxas de acerto de 71.4% vs 76.2%.

Modelo recomendadoKAT-Coder-Pro V2.5 (low)A pontuação fica perto da melhor aqui (8.0 vs 8.5) e custa cerca de 5.5x menos que GPT-5.4 (medium).

Benchmarks gerados a partir das suítes de teste do AI BENCHY em: 2026-07-14

Métrica	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low Lançamento: 2026-07-14	GPT-5.4 GPT-5.4 medium Lançamento: 2026-03-05

Métrica	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low Lançamento: 2026-07-14	GPT-5.4 GPT-5.4 medium Lançamento: 2026-03-05
Pontuação	8.0	8.5
Posição	#35	#20
Confiabilidade	9.9	10.0
Consistência	7.3	8.6
Testes corretos
Taxa de acerto por tentativa	71.4%	76.2%
Testes instáveis	7	4
Execuções totais	63	63
Custo por resultado	1.991	8.640
Custo total	$0.220	$1.210
Preço de entrada	$0.740 / 1M	$2.500 / 1M
Preço de saída	$2.960 / 1M	$15.000 / 1M
Total de tokens de entrada	42,750	34,108
Tokens de saída	2,167	2,242
Tokens de raciocínio	61,133	72,707
Tempo de resposta (médio)	10.44s	22.35s
Tempo de resposta (máx.)	51.34s	100.41s
Tempo de resposta (total)	219.17s	469.29s

Geração showcase

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#35 KAT-Coder-Pro V2.5

low

Custo: $0.016
Tempo: 47.6s
Tokens: 5,182 tok

#20 GPT-5.4

medium

Custo: $0.214
Tempo: 199.6s
Tokens: 14,349 tok

Melhores modelos por pontuação

Pontuação vs custo total

Tempo de resposta (médio)

Pontuação vs Tempo de resposta (médio)

Total de tokens de saída

Pontuação vs Total de tokens de saída

Detalhamento por categoria

Categoria:

Truques anti-IA	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	6.9	5.8	75.0%	2		4.20s	672	277	4,228
GPT-5.4	8.3	10.0	75.0%	0		4.11s	606	240	1,511

Programação	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		24.87s	7,893	402	24,945
GPT-5.4	8.8	7.8	88.9%	1		44.36s	7,305	433	24,216

Combinado	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.59s	15,132	394	3,391
GPT-5.4	10.0	10.0	100.0%	0		20.57s	11,019	301	3,543

Análise e extração de dados	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.19s	7,776	288	1,917
GPT-5.4	10.0	10.0	100.0%	0		5.32s	7,140	234	804

Específico do domínio	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	4.1	4.4	44.5%	2		17.52s	771	35	16,877
GPT-5.4	5.3	7.2	44.4%	1		74.27s	619	61	34,748

Inteligência geral	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	4.1	2.7	33.3%	1		2.32s	516	99	412
GPT-5.4	4.7	3.1	33.3%	1		4.92s	477	145	321

Seguimento de instruções	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		2.53s	699	83	1,008
GPT-5.4	10.0	10.0	100.0%	0		3.11s	660	93	897

Resolução de quebra-cabeças	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	6.4	4.4	77.8%	2		3.11s	696	289	1,820
GPT-5.4	8.2	7.2	88.9%	1		9.14s	642	441	3,815

Chamada de ferramentas	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		18.45s	8,391	282	834
GPT-5.4	10.0	10.0	100.0%	0		13.28s	5,445	264	1,031

Conhecimentos gerais	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		17.06s	204	18	5,701
GPT-5.4	3.0	10.0	0.0%	0		13.95s	195	30	1,821

Comparação rápida

Trocar par de comparação