KAT-Coder-Air V2.5 (high) vs Nemotron 3.5 Lightning (high)
KAT-Coder-Air V2.5 (high) lidera en puntuación media con 5.6 vs 5.6. KAT-Coder-Air V2.5 (high) tiene menor coste de benchmark con $0.077 vs $0.167. KAT-Coder-Air V2.5 (high) es más rápido con 15.90s vs 57.99s, con tasas de acierto de 43.9% vs 48.5%.
Benchmarks generados a partir de los suites de prueba de AI BENCHY en:
2026-08-11
Rango
#182
Total de tokens de salida
115,331
Tiempo de respuesta (promedio)
15.90s
Costo total
$0.077
Rango
#189
Total de tokens de salida
647,615
Tiempo de respuesta (promedio)
57.99s
Costo total
$0.167
Modelo recomendadoKAT-Coder-Air V2.5 (high)
Tiene la mejor puntuación aquí (5.6) y cuesta aproximadamente 2.2x menos que Nemotron 3.5 Lightning (high).
5.6Puntaje promedio en todas las pruebas de benchmark.…
5.6Puntaje promedio en todas las pruebas de benchmark.…
Rango
#182
#189
Fiabilidad
9.9Puntuación de éxito en el primer intento: 10.0 significa que no hubo fallos reintentables de la API objetivo ni de límite de tasa antes de llamadas exitosas; los fallos registrados bajan la puntuación.…
9.9Puntuación de éxito en el primer intento: 10.0 significa que no hubo fallos reintentables de la API objetivo ni de límite de tasa antes de llamadas exitosas; los fallos registrados bajan la puntuación.…
Consistencia
7.7La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
6.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
Cobertura del benchmark
22/22 pruebas · 66/66 intentos
22/22 pruebas · 66/66 intentos
Pruebas correctas
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 9Error de API: 3Formato extra: 3Tiempo de respuesta (promedio)15.90sTiempo de respuesta (máximo)118.35sTiempo de respuesta (total)349.71sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.9Puntaje promedio en todas las pruebas de benchmark.…
5.8La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
75.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
2Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 1Respuesta incorrecta: 1Tiempo de respuesta (promedio)2.49sTiempo de respuesta (máximo)3.97sTiempo de respuesta (total)9.97sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
5.5Puntaje promedio en todas las pruebas de benchmark.…
3.7La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
66.7%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
3Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 3Tiempo de respuesta (promedio)10.29sTiempo de respuesta (máximo)17.68sTiempo de respuesta (total)41.16sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
4.3Puntaje promedio en todas las pruebas de benchmark.…
7.3La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
11.1%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 1Formato extra: 1Respuesta incorrecta: 1Tiempo de respuesta (promedio)39.07sTiempo de respuesta (máximo)104.98sTiempo de respuesta (total)117.21sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
4.4Puntaje promedio en todas las pruebas de benchmark.…
5.1La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
33.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
2Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 2Formato extra: 1Tiempo de respuesta (promedio)168.41sTiempo de respuesta (máximo)280.94sTiempo de respuesta (total)505.22sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.5Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
50.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 1Tiempo de respuesta (promedio)74.48sTiempo de respuesta (máximo)118.35sTiempo de respuesta (total)148.95sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.4Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
50.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Llamada de herramienta no válida: 1Tiempo de respuesta (promedio)160.45sTiempo de respuesta (máximo)285.26sTiempo de respuesta (total)320.90sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.5Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
50.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)3.59sTiempo de respuesta (máximo)4.92sTiempo de respuesta (total)7.18sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
7.3Puntaje promedio en todas las pruebas de benchmark.…
5.9La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
83.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No siguió las instrucciones: 1Tiempo de respuesta (promedio)13.99sTiempo de respuesta (máximo)18.67sTiempo de respuesta (total)27.97sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
2.9Puntaje promedio en todas las pruebas de benchmark.…
7.2La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
11.1%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Formato extra: 2Respuesta incorrecta: 1Tiempo de respuesta (promedio)7.47sTiempo de respuesta (máximo)8.71sTiempo de respuesta (total)22.40sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
2.9Puntaje promedio en todas las pruebas de benchmark.…
7.2La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
11.1%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 3Tiempo de respuesta (promedio)86.57sTiempo de respuesta (máximo)226.92sTiempo de respuesta (total)259.72sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
5.1Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)7.10sTiempo de respuesta (máximo)7.10sTiempo de respuesta (total)7.10sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.7Puntaje promedio en todas las pruebas de benchmark.…
9.5La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)7.58sTiempo de respuesta (máximo)7.58sTiempo de respuesta (total)7.58sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
9.8Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)1.51sTiempo de respuesta (máximo)1.91sTiempo de respuesta (total)3.01sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
8.5Puntaje promedio en todas las pruebas de benchmark.…
6.8La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
83.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No siguió las instrucciones: 1Tiempo de respuesta (promedio)4.98sTiempo de respuesta (máximo)5.05sTiempo de respuesta (total)9.97sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.5Puntaje promedio en todas las pruebas de benchmark.…
4.4La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
33.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
2Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 3Tiempo de respuesta (promedio)2.47sTiempo de respuesta (máximo)2.86sTiempo de respuesta (total)7.40sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.6Puntaje promedio en todas las pruebas de benchmark.…
1.8La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
44.4%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
3Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No siguió las instrucciones: 2Respuesta incorrecta: 1Tiempo de respuesta (promedio)6.09sTiempo de respuesta (máximo)10.09sTiempo de respuesta (total)18.26sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)4.77sTiempo de respuesta (máximo)4.77sTiempo de respuesta (total)4.77sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)6.92sTiempo de respuesta (máximo)6.92sTiempo de respuesta (total)6.92sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)21.72sTiempo de respuesta (máximo)21.72sTiempo de respuesta (total)21.72sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)77.98sTiempo de respuesta (máximo)77.98sTiempo de respuesta (total)77.98sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…