AI BENCHY Compare

Anthropic: Claude Sonnet 4.6 vs Kwaipilot: KAT-Coder-Pro V2.5

Resumo

Claude Sonnet 4.6 (medium) lidera na pontuação média com 7.8 vs 7.7. KAT-Coder-Pro V2.5 (high) tem menor custo de benchmark com $0.246 vs $1.418. KAT-Coder-Pro V2.5 (high) é mais rápido com 12.30s vs 17.06s, com taxas de acerto de 65.1% vs 63.5%.

Modelo recomendadoKAT-Coder-Pro V2.5 (high)A pontuação fica perto da melhor aqui (7.7 vs 7.8) e custa cerca de 5.8x menos que Claude Sonnet 4.6 (medium).

Benchmarks gerados a partir das suítes de teste do AI BENCHY em: 2026-07-14

Métrica	Claude Sonnet 4.6 Claude Sonnet 4.6 medium Lançamento: 2026-02-17	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high Lançamento: 2026-07-14

Métrica	Claude Sonnet 4.6 Claude Sonnet 4.6 medium Lançamento: 2026-02-17	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high Lançamento: 2026-07-14
Pontuação	7.8	7.7
Posição	#40	#53
Confiabilidade	10.0	10.0
Consistência	9.1	8.1
Testes corretos
Taxa de acerto por tentativa	65.1%	63.5%
Testes instáveis	2	5
Execuções totais	63	63
Custo por resultado	10.904	2.228
Custo total	$1.418	$0.246
Preço de entrada	$3.000 / 1M	$0.740 / 1M
Preço de saída	$15.000 / 1M	$2.960 / 1M
Total de tokens de entrada	49,112	42,750
Tokens de saída	54,703	2,509
Tokens de raciocínio	29,970	69,594
Tempo de resposta (médio)	17.06s	12.30s
Tempo de resposta (máx.)	46.35s	95.65s
Tempo de resposta (total)	221.83s	258.34s

Geração showcase

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#40 Claude Sonnet 4.6

medium

SVG inválido

Custo: $0.000
Tempo: 300.0s
Tokens: 0 tok

#53 KAT-Coder-Pro V2.5

high

Custo: $0.009
Tempo: 26.4s
Tokens: 3,117 tok

Melhores modelos por pontuação

Pontuação vs custo total

Tempo de resposta (médio)

Pontuação vs Tempo de resposta (médio)

Total de tokens de saída

Pontuação vs Total de tokens de saída

Detalhamento por categoria

Categoria:

Truques anti-IA	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	6.5	10.0	50.0%	0		2.98s	789	1,046	1,093
KAT-Coder-Pro V2.5	7.0	8.0	66.7%	1		3.17s	672	447	2,716

Programação	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	5.7	6.6	44.4%	1		33.29s	6,995	16,089	3,686
KAT-Coder-Pro V2.5	6.4	7.9	44.4%	1		22.00s	7,893	422	20,461

Combinado	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	10.0	10.0	100.0%	0		46.35s	18,351	5,871	3,962
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		13.44s	15,132	394	2,807

Análise e extração de dados	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	10.0	10.0	100.0%	0		13.90s	8,676	649	742
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.13s	7,776	278	1,960

Específico do domínio	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	2.9	7.2	11.1%	1		0ms	471	25,790	16,919
KAT-Coder-Pro V2.5	2.9	4.4	22.2%	2		35.33s	771	33	35,701

Inteligência geral	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	10.0	10.0	100.0%	0		4.94s	564	256	433
KAT-Coder-Pro V2.5	5.1	10.0	0.0%	0		3.27s	516	139	647

Seguimento de instruções	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	10.0	10.0	100.0%	0		2.61s	792	318	552
KAT-Coder-Pro V2.5	9.9	10.0	100.0%	0		2.67s	699	84	976

Resolução de quebra-cabeças	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	10.0	10.0	100.0%	0		5.31s	816	592	646
KAT-Coder-Pro V2.5	8.2	7.2	88.9%	1		3.38s	696	428	1,936

Chamada de ferramentas	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	10.0	10.0	100.0%	0		7.48s	11,454	655	351
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		28.04s	8,391	268	896

Conhecimentos gerais	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Sonnet 4.6	3.0	10.0	0.0%	0		30.09s	204	3,437	1,586
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		5.22s	204	16	1,494

Comparação rápida

Trocar par de comparação