AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs OpenAI: GPT-5.4 Nano

Resumo

A pontuação média está praticamente empatada em 7.5 vs 7.5. GPT-5.4 Nano (medium) tem menor custo de benchmark com $0.107 vs $0.275. GPT-5.4 Nano (medium) é mais rápido com 11.95s vs 12.95s, com taxas de acerto de 65.1% vs 63.5%.

Modelo recomendadoGPT-5.4 Nano (medium)Tem a melhor pontuação aqui (7.5) e custa cerca de 2.6x menos que KAT-Coder-Pro V2.5 (medium).

Benchmarks gerados a partir das suítes de teste do AI BENCHY em: 2026-07-14

Métrica	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 medium Lançamento: 2026-07-14	GPT-5.4 Nano GPT-5.4 Nano medium Lançamento: 2026-03-17

Métrica	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 medium Lançamento: 2026-07-14	GPT-5.4 Nano GPT-5.4 Nano medium Lançamento: 2026-03-17
Pontuação	7.5	7.5
Posição	#60	#62
Confiabilidade	10.0	10.0
Consistência	7.7	8.4
Testes corretos
Taxa de acerto por tentativa	65.1%	63.5%
Testes instáveis	6	4
Execuções totais	63	63
Custo por resultado	2.498	0.969
Custo total	$0.275	$0.107
Preço de entrada	$0.740 / 1M	$0.200 / 1M
Preço de saída	$2.960 / 1M	$1.250 / 1M
Total de tokens de entrada	42,750	35,434
Tokens de saída	2,098	3,014
Tokens de raciocínio	80,027	76,520
Tempo de resposta (médio)	12.95s	11.95s
Tempo de resposta (máx.)	81.45s	94.06s
Tempo de resposta (total)	271.92s	250.98s

Geração showcase

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#60 KAT-Coder-Pro V2.5

medium

Custo: $0.009
Tempo: 25.6s
Tokens: 2,939 tok

#62 GPT-5.4 Nano

medium

Custo: $0.007
Tempo: 24.6s
Tokens: 4,943 tok

Melhores modelos por pontuação

Pontuação vs custo total

Tempo de resposta (médio)

Pontuação vs Tempo de resposta (médio)

Total de tokens de saída

Pontuação vs Total de tokens de saída

Detalhamento por categoria

Categoria:

Truques anti-IA	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	8.2	7.9	83.3%	1		3.90s	672	208	3,868
GPT-5.4 Nano	8.3	10.0	75.0%	0		4.52s	606	683	2,254

Programação	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		33.10s	7,893	416	33,658
GPT-5.4 Nano	6.1	4.7	66.7%	2		19.12s	7,305	516	20,778

Combinado	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.50s	15,132	363	3,367
GPT-5.4 Nano	9.8	10.0	100.0%	0		24.13s	12,345	349	5,719

Análise e extração de dados	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	7.3	5.9	83.3%	1		4.70s	7,776	275	2,122
GPT-5.4 Nano	10.0	10.0	100.0%	0		2.54s	7,140	234	516

Específico do domínio	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	2.9	7.2	11.1%	1		29.03s	771	36	29,584
GPT-5.4 Nano	5.9	7.2	55.6%	1		38.18s	619	60	43,325

Inteligência geral	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	4.7	3.1	33.3%	1		2.35s	516	92	381
GPT-5.4 Nano	4.5	10.0	0.0%	0		4.15s	477	179	443

Seguimento de instruções	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	9.9	10.0	100.0%	0		2.58s	699	83	971
GPT-5.4 Nano	9.8	10.0	100.0%	0		1.88s	660	95	521

Resolução de quebra-cabeças	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	5.9	4.5	66.7%	2		3.20s	696	325	1,867
GPT-5.4 Nano	4.1	7.2	22.2%	1		3.79s	642	594	1,408

Chamada de ferramentas	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		19.02s	8,391	282	1,010
GPT-5.4 Nano	10.0	10.0	100.0%	0		7.71s	5,445	234	382

Conhecimentos gerais	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		9.87s	204	18	3,199
GPT-5.4 Nano	3.0	10.0	0.0%	0		4.81s	195	70	1,174

Comparação rápida

Trocar par de comparação

KAT-Coder-Pro V2.5mediumvsGPT-5.3 Chatnone DeepSeek V4 ProhighvsKAT-Coder-Pro V2.5medium DeepSeek V4 ProhighvsGPT-5.4 Nanomedium Gemini 3 Flash PreviewlowvsGPT-5.4 Nanomedium Gemini 3 Flash PreviewlowvsKAT-Coder-Pro V2.5medium KAT-Coder-Pro V2.5highvsGPT-5.4 Nanomedium KAT-Coder-Pro V2.5mediumvsGPT-5.6 Lunahigh KAT-Coder-Pro V2.5mediumvsStep 3.7 Flashlow KAT-Coder-Pro V2.5mediumvsGPT-5.6 Terralow GPT-5.4 NanomediumvsStep 3.7 Flashlow Claude Sonnet 4.6nonevsGPT-5.4 Nanomedium Claude Opus 4.8lowvsKAT-Coder-Pro V2.5medium