AI BENCHY Compare

Anthropic: Claude Opus 4.8 vs Kwaipilot: KAT-Coder-Pro V2.5

Resumo

Claude Opus 4.8 (low) lidera na pontuação média com 7.7 vs 7.5. KAT-Coder-Pro V2.5 (medium) tem menor custo de benchmark com $0.275 vs $1.270. Claude Opus 4.8 (low) é mais rápido com 10.83s vs 12.95s, com taxas de acerto de 79.4% vs 65.1%.

Modelo recomendadoKAT-Coder-Pro V2.5 (medium)A pontuação fica perto da melhor aqui (7.5 vs 7.7) e custa cerca de 4.6x menos que Claude Opus 4.8 (low).

Benchmarks gerados a partir das suítes de teste do AI BENCHY em: 2026-07-14

Métrica	Claude Opus 4.8 Claude Opus 4.8 low Lançamento: 2026-05-28	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 medium Lançamento: 2026-07-14

Métrica	Claude Opus 4.8 Claude Opus 4.8 low Lançamento: 2026-05-28	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 medium Lançamento: 2026-07-14
Pontuação	7.7	7.5
Posição	#47	#60
Confiabilidade	10.0	10.0
Consistência	8.8	7.7
Testes corretos
Taxa de acerto por tentativa	79.4%	65.1%
Testes instáveis	3	6
Execuções totais	63	63
Custo por resultado	8.466	2.498
Custo total	$1.270	$0.275
Preço de entrada	$5.000 / 1M	$0.740 / 1M
Preço de saída	$25.000 / 1M	$2.960 / 1M
Total de tokens de entrada	60,946	42,750
Tokens de saída	31,771	2,098
Tokens de raciocínio	6,831	80,027
Tempo de resposta (médio)	10.83s	12.95s
Tempo de resposta (máx.)	127.97s	81.45s
Tempo de resposta (total)	227.39s	271.92s

Geração showcase

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#47 Claude Opus 4.8

low

Custo: $0.031
Tempo: 14.1s
Tokens: 1,345 tok

#60 KAT-Coder-Pro V2.5

medium

Custo: $0.009
Tempo: 25.6s
Tokens: 2,939 tok

Melhores modelos por pontuação

Pontuação vs custo total

Tempo de resposta (médio)

Pontuação vs Tempo de resposta (médio)

Total de tokens de saída

Pontuação vs Total de tokens de saída

Detalhamento por categoria

Categoria:

Truques anti-IA	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Opus 4.8	10.0	10.0	100.0%	0		3.30s	834	793	371
KAT-Coder-Pro V2.5	8.2	7.9	83.3%	1		3.90s	672	208	3,868

Programação	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Opus 4.8	6.6	4.6	77.8%	2		7.58s	10,590	3,637	809
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		33.10s	7,893	416	33,658

Combinado	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Opus 4.8	9.8	10.0	100.0%	0		20.84s	23,500	2,216	1,081
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.50s	15,132	363	3,367

Análise e extração de dados	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Opus 4.8	6.3	5.8	66.7%	1		2.27s	10,503	310	0
KAT-Coder-Pro V2.5	7.3	5.9	83.3%	1		4.70s	7,776	275	2,122

Específico do domínio	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Opus 4.8	5.3	10.0	33.3%	0		45.53s	975	23,311	3,908
KAT-Coder-Pro V2.5	2.9	7.2	11.1%	1		29.03s	771	36	29,584

Inteligência geral	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Opus 4.8	10.0	10.0	100.0%	0		2.55s	708	231	0
KAT-Coder-Pro V2.5	4.7	3.1	33.3%	1		2.35s	516	92	381

Seguimento de instruções	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Opus 4.8	9.8	10.0	100.0%	0		2.78s	909	111	221
KAT-Coder-Pro V2.5	9.9	10.0	100.0%	0		2.58s	699	83	971

Resolução de quebra-cabeças	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Opus 4.8	10.0	10.0	100.0%	0		3.01s	894	592	184
KAT-Coder-Pro V2.5	5.9	4.5	66.7%	2		3.20s	696	325	1,867

Chamada de ferramentas	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Opus 4.8	10.0	10.0	100.0%	0		6.85s	11,775	370	35
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		19.02s	8,391	282	1,010

Conhecimentos gerais	Pontuação	Consistência	Taxa de acerto por tentativa	Testes instáveis	Testes corretos	Tempo de resposta (médio)	Tokens de entrada	Tokens de saída	Tokens de raciocínio
Claude Opus 4.8	3.0	10.0	0.0%	0		5.48s	258	200	222
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		9.87s	204	18	3,199

Comparação rápida

Trocar par de comparação