KAT-Coder-Pro V2.5 (default) vs Step 5 Preview (medium)
La puntuación media está prácticamente empatada en 6.1 vs 6.1. KAT-Coder-Pro V2.5 (default) tiene menor coste de benchmark con $0.742 vs $4.136. KAT-Coder-Pro V2.5 (default) es más rápido con 24.96s vs 136.10s, con tasas de acierto de 68.1% vs 53.6%.
Benchmarks generados a partir de los suites de prueba de AI BENCHY en:
2026-10-09
Modelos comparados
Rango
#252
Total de tokens de salida
139,572
Tiempo de respuesta (promedio)
24.96s
Costo total
$0.742
Rango
#250
Total de tokens de salida
1,434,621
Tiempo de respuesta (promedio)
136.10s
Costo total
$4.136
Modelo recomendadoKAT-Coder-Pro V2.5 (default)
Tiene la mejor puntuación aquí (6.1) y cuesta aproximadamente 5.6x menos que Step 5 Preview (medium).
6.1Puntaje promedio en todas las pruebas de benchmark.…
6.1Puntaje promedio en todas las pruebas de benchmark.…
Rango
#252
#250
Fiabilidad
10.0Puntuación de éxito en el primer intento: 10.0 significa que no hubo fallos reintentables de la API objetivo ni de límite de tasa antes de llamadas exitosas; los fallos registrados bajan la puntuación.…
9.6Puntuación de éxito en el primer intento: 10.0 significa que no hubo fallos reintentables de la API objetivo ni de límite de tasa antes de llamadas exitosas; los fallos registrados bajan la puntuación.…
Consistencia
7.1La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
8.2La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
Intentos
69/69
69/69
Pruebas correctas
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 10Error de API: 1Llamada de herramienta no válida: 1Tiempo de respuesta (promedio)24.96sTiempo de respuesta (máximo)335.41sTiempo de respuesta (total)574.12sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
68.1%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
53.6%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
Pruebas inestables
8Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
5Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Ejecuciones totales
69Ejecuciones totales…
69Ejecuciones totales…
Costo por resultado
4.419
41.354
Costo total
$0.742
$4.136
Precio de entrada
$0.740 / 1MPrecio de entrada…
$1.000 / 1MPrecio de entrada…
Precio de salida
$2.960 / 1MPrecio de salida…
$2.700 / 1MPrecio de salida…
Precio de lectura de caché
$0.150 / 1MPrecio de lectura de caché…
$0.050 / 1MPrecio de lectura de caché…
Precio de escritura de caché
N/DPrecio de escritura de caché…
N/DPrecio de escritura de caché…
Total de tokens de entrada
98,508Total de tokens de entrada…
261,842Total de tokens de entrada…
Tokens de salida
8,088Tokens de salida…
1,434,621Tokens de salida…
Tokens de razonamiento
131,484Tokens de razonamiento…
0Tokens de razonamiento…
Tiempo de respuesta (promedio)
24.96sTiempo de respuesta (promedio)…
136.10sTiempo de respuesta (promedio)…
Tiempo de respuesta (máximo)
335.41sTiempo de respuesta (máximo)…
438.09sTiempo de respuesta (máximo)…
Tiempo de respuesta (total)
574.12sTiempo de respuesta (total)…
3130.27sTiempo de respuesta (total)…
Parámetros
~700B en total (~72B activos)
600B en total (27B activos)
Disponibilidad
Código cerrado
Código cerrado
Los precios de caché se aplican a los tokens de entrada. Las lecturas reutilizan instrucciones guardadas; las escrituras las almacenan y pueden costar más. Los tokens de salida usan el precio de salida.
Generación showcase de modelos
Hamster playing table tennis
Prompt: Create a detailed SVG illustration of a hamster playing table tennis.
3.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 1Tiempo de respuesta (promedio)1.90sTiempo de respuesta (máximo)1.90sTiempo de respuesta (total)1.90sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.1Puntaje promedio en todas las pruebas de benchmark.…
3.1La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
66.7%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)95.77sTiempo de respuesta (máximo)95.77sTiempo de respuesta (total)95.77sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
8.7Puntaje promedio en todas las pruebas de benchmark.…
7.9La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
91.7%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)4.58sTiempo de respuesta (máximo)7.94sTiempo de respuesta (total)18.33sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.4Puntaje promedio en todas las pruebas de benchmark.…
7.9La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
58.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 1Respuesta incorrecta: 1Tiempo de respuesta (promedio)12.58sTiempo de respuesta (máximo)36.18sTiempo de respuesta (total)50.32sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.1Puntaje promedio en todas las pruebas de benchmark.…
4.7La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
66.7%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
2Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 2Tiempo de respuesta (promedio)22.52sTiempo de respuesta (máximo)30.63sTiempo de respuesta (total)67.55sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
2.8Puntaje promedio en todas las pruebas de benchmark.…
7.2La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
11.1%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Sin respuesta: 2No siguió las instrucciones: 1Tiempo de respuesta (promedio)363.90sTiempo de respuesta (máximo)369.01sTiempo de respuesta (total)1091.69sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
4.1Puntaje promedio en todas las pruebas de benchmark.…
5.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
33.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Llamada de herramienta no válida: 1Respuesta incorrecta: 1Tiempo de respuesta (promedio)183.08sTiempo de respuesta (máximo)335.41sTiempo de respuesta (total)366.16sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
7.3Puntaje promedio en todas las pruebas de benchmark.…
5.8La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
83.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Llamada de herramienta no válida: 1Tiempo de respuesta (promedio)124.99sTiempo de respuesta (máximo)231.73sTiempo de respuesta (total)249.98sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)5.07sTiempo de respuesta (máximo)5.35sTiempo de respuesta (total)10.15sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)4.10sTiempo de respuesta (máximo)5.14sTiempo de respuesta (total)8.20sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
4.1Puntaje promedio en todas las pruebas de benchmark.…
4.4La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
44.5%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
2Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 3Tiempo de respuesta (promedio)24.90sTiempo de respuesta (máximo)53.57sTiempo de respuesta (total)74.71sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
2.9Puntaje promedio en todas las pruebas de benchmark.…
7.2La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
11.1%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Sin respuesta: 3Tiempo de respuesta (promedio)323.23sTiempo de respuesta (máximo)438.09sTiempo de respuesta (total)969.70sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
4.8Puntaje promedio en todas las pruebas de benchmark.…
3.2La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
33.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)5.16sTiempo de respuesta (máximo)5.16sTiempo de respuesta (total)5.16sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.4Puntaje promedio en todas las pruebas de benchmark.…
9.3La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No siguió las instrucciones: 1Tiempo de respuesta (promedio)34.82sTiempo de respuesta (máximo)34.82sTiempo de respuesta (total)34.82sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
9.8Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)2.61sTiempo de respuesta (máximo)2.82sTiempo de respuesta (total)5.23sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)4.23sTiempo de respuesta (máximo)4.40sTiempo de respuesta (total)8.46sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
8.2Puntaje promedio en todas las pruebas de benchmark.…
7.2La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
88.9%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)3.03sTiempo de respuesta (máximo)4.12sTiempo de respuesta (total)9.10sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
7.8Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
66.7%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)59.88sTiempo de respuesta (máximo)173.78sTiempo de respuesta (total)179.64sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)5.93sTiempo de respuesta (máximo)5.93sTiempo de respuesta (total)5.93sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)3.84sTiempo de respuesta (máximo)3.84sTiempo de respuesta (total)3.84sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)9.91sTiempo de respuesta (máximo)9.91sTiempo de respuesta (total)9.91sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Sin respuesta: 1Tiempo de respuesta (promedio)437.86sTiempo de respuesta (máximo)437.86sTiempo de respuesta (total)437.86sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…