Claude Sonnet 5.5 (medium) vs KAT-Coder-Pro V2.5 (high)
Claude Sonnet 5.5 (medium) lidera en puntuación media con 6.5 vs 6.5. KAT-Coder-Pro V2.5 (high) tiene menor coste de benchmark con $0.506 vs $1.100. Claude Sonnet 5.5 (medium) es más rápido con 8.03s vs 21.21s, con tasas de acierto de 40.6% vs 60.9%.
Benchmarks generados a partir de los suites de prueba de AI BENCHY en:
2026-10-01
Modelos comparados
Rango
#192
Total de tokens de salida
37,748
Tiempo de respuesta (promedio)
8.03s
Costo total
$1.100
Rango
#198
Total de tokens de salida
144,359
Tiempo de respuesta (promedio)
21.21s
Costo total
$0.506
Modelo recomendadoClaude Sonnet 5.5 (medium)
Tiene la mejor puntuación aquí (6.5) y responde aproximadamente 2.6x más rápido que KAT-Coder-Pro V2.5 (high).
6.5Puntaje promedio en todas las pruebas de benchmark.…
6.5Puntaje promedio en todas las pruebas de benchmark.…
Rango
#192
#198
Fiabilidad
10.0Puntuación de éxito en el primer intento: 10.0 significa que no hubo fallos reintentables de la API objetivo ni de límite de tasa antes de llamadas exitosas; los fallos registrados bajan la puntuación.…
10.0Puntuación de éxito en el primer intento: 10.0 significa que no hubo fallos reintentables de la API objetivo ni de límite de tasa antes de llamadas exitosas; los fallos registrados bajan la puntuación.…
Consistencia
9.7La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
7.9La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 10Error de API: 1Llamada de herramienta no válida: 1Tiempo de respuesta (promedio)21.21sTiempo de respuesta (máximo)199.97sTiempo de respuesta (total)487.83sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
Tasa de aciertos por intento
40.6%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
60.9%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
Pruebas inestables
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
6Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Ejecuciones totales
69Ejecuciones totales…
69Ejecuciones totales…
Costo por resultado
12.221
4.599
Costo total
$1.100
$0.506
Precio de entrada
$2.000 / 1MPrecio de entrada…
$0.740 / 1MPrecio de entrada…
Precio de salida
$10.000 / 1MPrecio de salida…
$2.960 / 1MPrecio de salida…
Total de tokens de entrada
361,183Total de tokens de entrada…
106,085Total de tokens de entrada…
Tokens de salida
26,609Tokens de salida…
9,071Tokens de salida…
Tokens de razonamiento
11,139Tokens de razonamiento…
135,288Tokens de razonamiento…
Tiempo de respuesta (promedio)
8.03sTiempo de respuesta (promedio)…
21.21sTiempo de respuesta (promedio)…
Tiempo de respuesta (máximo)
51.18sTiempo de respuesta (máximo)…
199.97sTiempo de respuesta (máximo)…
Tiempo de respuesta (total)
184.80sTiempo de respuesta (total)…
487.83sTiempo de respuesta (total)…
Parámetros
~1T en total (~100B activos)
~700B en total (~72B activos)
Disponibilidad
Código cerrado
Código cerrado
Generación showcase de modelos
Hamster playing table tennis
Prompt: Create a detailed SVG illustration of a hamster playing table tennis.
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)51.18sTiempo de respuesta (máximo)51.18sTiempo de respuesta (total)51.18sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 1Tiempo de respuesta (promedio)1.52sTiempo de respuesta (máximo)1.52sTiempo de respuesta (total)1.52sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.5Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
50.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Formato extra: 2Tiempo de respuesta (promedio)2.54sTiempo de respuesta (máximo)4.30sTiempo de respuesta (total)10.16sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
7.0Puntaje promedio en todas las pruebas de benchmark.…
8.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
66.7%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 2Tiempo de respuesta (promedio)3.17sTiempo de respuesta (máximo)4.99sTiempo de respuesta (total)12.67sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.4Puntaje promedio en todas las pruebas de benchmark.…
9.7La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No siguió las instrucciones: 2Formato extra: 1Tiempo de respuesta (promedio)6.07sTiempo de respuesta (máximo)7.23sTiempo de respuesta (total)18.20sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.4Puntaje promedio en todas las pruebas de benchmark.…
7.9La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
44.4%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 2Tiempo de respuesta (promedio)22.00sTiempo de respuesta (máximo)35.74sTiempo de respuesta (total)65.99sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
8.5Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
50.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Llamada de herramienta no válida: 1Tiempo de respuesta (promedio)23.58sTiempo de respuesta (máximo)26.16sTiempo de respuesta (total)47.16sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
7.3Puntaje promedio en todas las pruebas de benchmark.…
5.8La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
83.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Llamada de herramienta no válida: 1Tiempo de respuesta (promedio)106.70sTiempo de respuesta (máximo)199.97sTiempo de respuesta (total)213.41sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.5Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
50.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Formato extra: 1Tiempo de respuesta (promedio)2.56sTiempo de respuesta (máximo)2.88sTiempo de respuesta (total)5.13sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)4.13sTiempo de respuesta (máximo)4.56sTiempo de respuesta (total)8.26sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Formato extra: 2Respuesta incorrecta: 1Tiempo de respuesta (promedio)8.78sTiempo de respuesta (máximo)11.55sTiempo de respuesta (total)26.33sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
2.9Puntaje promedio en todas las pruebas de benchmark.…
4.4La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
22.2%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
2Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 3Tiempo de respuesta (promedio)44.66sTiempo de respuesta (máximo)95.65sTiempo de respuesta (total)133.99sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
5.1Puntaje promedio en todas las pruebas de benchmark.…
3.4La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
33.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No siguió las instrucciones: 1Tiempo de respuesta (promedio)2.27sTiempo de respuesta (máximo)2.27sTiempo de respuesta (total)2.27sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
5.1Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)3.27sTiempo de respuesta (máximo)3.27sTiempo de respuesta (total)3.27sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.3Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
50.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Formato extra: 1Tiempo de respuesta (promedio)1.88sTiempo de respuesta (máximo)2.03sTiempo de respuesta (total)3.76sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
9.9Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)2.67sTiempo de respuesta (máximo)2.87sTiempo de respuesta (total)5.33sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
7.7Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
66.7%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Formato extra: 1Tiempo de respuesta (promedio)2.43sTiempo de respuesta (máximo)2.70sTiempo de respuesta (total)7.29sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
8.2Puntaje promedio en todas las pruebas de benchmark.…
7.2La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
88.9%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)3.38sTiempo de respuesta (máximo)4.30sTiempo de respuesta (total)10.13sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)4.75sTiempo de respuesta (máximo)4.75sTiempo de respuesta (total)4.75sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)28.04sTiempo de respuesta (máximo)28.04sTiempo de respuesta (total)28.04sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Sin respuesta: 1Tiempo de respuesta (promedio)8.57sTiempo de respuesta (máximo)8.57sTiempo de respuesta (total)8.57sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)5.22sTiempo de respuesta (máximo)5.22sTiempo de respuesta (total)5.22sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…