AI BENCHY Compare

Anthropic: Claude Sonnet 4.6 vs Kwaipilot: KAT-Coder-Pro V2.5

Resumo

KAT-Coder-Pro V2.5 (low) lidera na pontuação média com 8.0 vs 7.8. KAT-Coder-Pro V2.5 (low) tem menor custo de benchmark com $0.220 vs $1.418. KAT-Coder-Pro V2.5 (low) é mais rápido com 10.44s vs 17.06s, com taxas de acerto de 65.1% vs 71.4%.

Modelo recomendadoKAT-Coder-Pro V2.5 (low)Tem a melhor pontuação aqui (8.0) e custa cerca de 6.5x menos que Claude Sonnet 4.6 (medium).

Benchmarks gerados a partir das suítes de teste do AI BENCHY em: 2026-07-14

Métrica	Claude Sonnet 4.6 Claude Sonnet 4.6 medium Lançamento: 2026-02-17	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low Lançamento: 2026-07-14

Métrica	Claude Sonnet 4.6 Claude Sonnet 4.6 medium Lançamento: 2026-02-17	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low Lançamento: 2026-07-14
Pontuação	7.8	8.0
Posição	#40	#35
Confiabilidade	10.0	9.9
Consistência	9.1	7.3
Testes corretos
Taxa de acerto por tentativa	65.1%	71.4%
Testes instáveis	2	7
Execuções totais	63	63
Custo por resultado	10.904	1.991
Custo total	$1.418	$0.220
Preço de entrada	$3.000 / 1M	$0.740 / 1M
Preço de saída	$15.000 / 1M	$2.960 / 1M
Total de tokens de entrada	49,112	42,750
Tokens de saída	54,703	2,167
Tokens de raciocínio	29,970	61,133
Tempo de resposta (médio)	17.06s	10.44s
Tempo de resposta (máx.)	46.35s	51.34s
Tempo de resposta (total)	221.83s	219.17s

Geração showcase

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#40 Claude Sonnet 4.6

medium

SVG inválido

Custo: $0.000
Tempo: 300.0s
Tokens: 0 tok

#35 KAT-Coder-Pro V2.5

low

Custo: $0.016
Tempo: 47.6s
Tokens: 5,182 tok

Melhores modelos por pontuação

Pontuação vs custo total

Tempo de resposta (médio)

Pontuação vs Tempo de resposta (médio)

Total de tokens de saída

Pontuação vs Total de tokens de saída

Detalhamento por categoria

Categoria:

Truques anti-IA	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	6.5	10.0	50.0%	0		2.98s	789	1,046	1,093
KAT-Coder-Pro V2.5	6.9	5.8	75.0%	2		4.20s	672	277	4,228

Programação	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	5.7	6.6	44.4%	1		33.29s	6,995	16,089	3,686
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		24.87s	7,893	402	24,945

Combinado	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	10.0	10.0	100.0%	0		46.35s	18,351	5,871	3,962
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.59s	15,132	394	3,391

Análise e extração de dados	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	10.0	10.0	100.0%	0		13.90s	8,676	649	742
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.19s	7,776	288	1,917

Específico do domínio	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	2.9	7.2	11.1%	1		0ms	471	25,790	16,919
KAT-Coder-Pro V2.5	4.1	4.4	44.5%	2		17.52s	771	35	16,877

Inteligência geral	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	10.0	10.0	100.0%	0		4.94s	564	256	433
KAT-Coder-Pro V2.5	4.1	2.7	33.3%	1		2.32s	516	99	412

Seguimento de instruções	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	10.0	10.0	100.0%	0		2.61s	792	318	552
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		2.53s	699	83	1,008

Resolução de quebra-cabeças	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	10.0	10.0	100.0%	0		5.31s	816	592	646
KAT-Coder-Pro V2.5	6.4	4.4	77.8%	2		3.11s	696	289	1,820

Chamada de ferramentas	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	10.0	10.0	100.0%	0		7.48s	11,454	655	351
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		18.45s	8,391	282	834

Conhecimentos gerais	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	3.0	10.0	0.0%	0		30.09s	204	3,437	1,586
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		17.06s	204	18	5,701

Comparação rápida

Trocar par de comparação

Claude Sonnet 4.6mediumvsGrok 4.5low KAT-Coder-Pro V2.5lowvsQwen3.5 Plus 2026-02-15medium KAT-Coder-Pro V2.5lowvsGPT-5.4 Minimedium KAT-Coder-Pro V2.5lowvsGLM 5.2high KAT-Coder-Pro V2.5lowvsQwen3.5-27Bmedium Claude Sonnet 5mediumvsKAT-Coder-Pro V2.5low Claude Sonnet 4.6mediumvsGPT-5.6 Terralow KAT-Coder-Pro V2.5lowvsQwen3.6 Plusmedium Claude Sonnet 4.6mediumvsStep 3.7 Flashlow Claude Sonnet 4.6mediumvsGPT-5.6 Lunahigh KAT-Coder-Pro V2.5lowvsGPT-5.6 Terramedium Claude Sonnet 4.6mediumvsKAT-Coder-Pro V2.5high