Seed-2.0-Code (high) vs KAT-Coder-Pro V2.5 (medium)
La puntuación media está prácticamente empatada en 6.9 vs 6.9. KAT-Coder-Pro V2.5 (medium) tiene menor coste de benchmark con $0.478 vs $1.273. KAT-Coder-Pro V2.5 (medium) es más rápido con 24.87s vs 124.18s, con tasas de acierto de 63.6% vs 65.2%.
Benchmarks generados a partir de los suites de prueba de AI BENCHY en:
2026-09-24
Modelos comparados
Rango
#171
Total de tokens de salida
410,575
Tiempo de respuesta (promedio)
124.18s
Costo total
$1.273
Rango
#168
Total de tokens de salida
139,375
Tiempo de respuesta (promedio)
24.87s
Costo total
$0.478
Modelo recomendadoKAT-Coder-Pro V2.5 (medium)
Tiene la mejor puntuación aquí (6.9) y cuesta aproximadamente 2.7x menos que Seed-2.0-Code (high).
6.9Puntaje promedio en todas las pruebas de benchmark.…
6.9Puntaje promedio en todas las pruebas de benchmark.…
Rango
#171
#168
Fiabilidad
8.6Puntuación de éxito en el primer intento: 10.0 significa que no hubo fallos reintentables de la API objetivo ni de límite de tasa antes de llamadas exitosas; los fallos registrados bajan la puntuación.…
10.0Puntuación de éxito en el primer intento: 10.0 significa que no hubo fallos reintentables de la API objetivo ni de límite de tasa antes de llamadas exitosas; los fallos registrados bajan la puntuación.…
Consistencia
7.8La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
7.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
Intentos
66/66
66/66
Pruebas correctas
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 5Respuesta incorrecta: 4No siguió las instrucciones: 1Sin respuesta: 1Tiempo de respuesta (promedio)124.18sTiempo de respuesta (máximo)675.30sTiempo de respuesta (total)2732.03sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 9Error de API: 1No siguió las instrucciones: 1Tiempo de respuesta (promedio)24.87sTiempo de respuesta (máximo)257.00sTiempo de respuesta (total)547.14sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
Tasa de aciertos por intento
63.6%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
65.2%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
Pruebas inestables
5Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
8Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Ejecuciones totales
66Ejecuciones totales…
66Ejecuciones totales…
Costo por resultado
11.571
4.342
Costo total
$1.273
$0.478
Precio de entrada
$0.500 / 1MPrecio de entrada…
$0.740 / 1MPrecio de entrada…
Precio de salida
$3.000 / 1MPrecio de salida…
$2.960 / 1MPrecio de salida…
Total de tokens de entrada
81,970Total de tokens de entrada…
87,916Total de tokens de entrada…
Tokens de salida
7,186Tokens de salida…
7,213Tokens de salida…
Tokens de razonamiento
403,389Tokens de razonamiento…
132,162Tokens de razonamiento…
Tiempo de respuesta (promedio)
124.18sTiempo de respuesta (promedio)…
24.87sTiempo de respuesta (promedio)…
Tiempo de respuesta (máximo)
675.30sTiempo de respuesta (máximo)…
257.00sTiempo de respuesta (máximo)…
Tiempo de respuesta (total)
2732.03sTiempo de respuesta (total)…
547.14sTiempo de respuesta (total)…
Parámetros
~200B en total (~20B activos)
~700B en total (~72B activos)
Disponibilidad
Código cerrado
Código cerrado
Generación showcase de modelos
Hamster playing table tennis
Prompt: Create a detailed SVG illustration of a hamster playing table tennis.
8.3Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
75.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)35.07sTiempo de respuesta (máximo)82.43sTiempo de respuesta (total)140.28sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
8.2Puntaje promedio en todas las pruebas de benchmark.…
7.9La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
83.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)3.90sTiempo de respuesta (máximo)6.99sTiempo de respuesta (total)15.61sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.2Puntaje promedio en todas las pruebas de benchmark.…
6.5La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
55.6%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 1No siguió las instrucciones: 1Tiempo de respuesta (promedio)266.74sTiempo de respuesta (máximo)443.32sTiempo de respuesta (total)800.23sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
7.8Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
66.7%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)33.10sTiempo de respuesta (máximo)71.91sTiempo de respuesta (total)99.31sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
7.3Puntaje promedio en todas las pruebas de benchmark.…
5.8La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
83.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 1Tiempo de respuesta (promedio)144.87sTiempo de respuesta (máximo)236.85sTiempo de respuesta (total)289.75sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
6.4Puntaje promedio en todas las pruebas de benchmark.…
5.8La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
66.7%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 1Tiempo de respuesta (promedio)135.75sTiempo de respuesta (máximo)257.00sTiempo de respuesta (total)271.50sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)24.28sTiempo de respuesta (máximo)34.05sTiempo de respuesta (total)48.55sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
7.3Puntaje promedio en todas las pruebas de benchmark.…
5.9La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
83.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)4.70sTiempo de respuesta (máximo)5.34sTiempo de respuesta (total)9.39sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.5Puntaje promedio en todas las pruebas de benchmark.…
4.4La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
33.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
2Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 2Sin respuesta: 1Tiempo de respuesta (promedio)419.73sTiempo de respuesta (máximo)675.30sTiempo de respuesta (total)1259.19sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
2.9Puntaje promedio en todas las pruebas de benchmark.…
4.4La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
22.2%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
2Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 3Tiempo de respuesta (promedio)35.11sTiempo de respuesta (máximo)81.45sTiempo de respuesta (total)105.33sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
4.6Puntaje promedio en todas las pruebas de benchmark.…
7.8La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 1Tiempo de respuesta (promedio)36.45sTiempo de respuesta (máximo)36.45sTiempo de respuesta (total)36.45sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
4.7Puntaje promedio en todas las pruebas de benchmark.…
3.1La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
33.3%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No siguió las instrucciones: 1Tiempo de respuesta (promedio)2.35sTiempo de respuesta (máximo)2.35sTiempo de respuesta (total)2.35sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
9.8Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)11.26sTiempo de respuesta (máximo)19.26sTiempo de respuesta (total)22.53sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
9.9Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)2.58sTiempo de respuesta (máximo)2.93sTiempo de respuesta (total)5.16sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
7.8Puntaje promedio en todas las pruebas de benchmark.…
9.3La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
66.7%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 1Tiempo de respuesta (promedio)15.91sTiempo de respuesta (máximo)17.11sTiempo de respuesta (total)47.73sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
5.9Puntaje promedio en todas las pruebas de benchmark.…
4.5La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
66.7%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
2Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 2Tiempo de respuesta (promedio)3.20sTiempo de respuesta (máximo)3.85sTiempo de respuesta (total)9.60sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
4.7Puntaje promedio en todas las pruebas de benchmark.…
1.6La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
66.7%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
1Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Error de API: 1Tiempo de respuesta (promedio)35.09sTiempo de respuesta (máximo)35.09sTiempo de respuesta (total)35.09sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
10.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
100.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.No hay respuestas fallidas.Tiempo de respuesta (promedio)19.02sTiempo de respuesta (máximo)19.02sTiempo de respuesta (total)19.02sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)52.23sTiempo de respuesta (máximo)52.23sTiempo de respuesta (total)52.23sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…
3.0Puntaje promedio en todas las pruebas de benchmark.…
10.0La consistencia refleja la estabilidad entre ejecuciones (10 = muy consistente, incluso si es consistentemente incorrecto).…
0.0%Tasa de aciertos por intento = intentos correctos / intentos totales en todas las ejecuciones.…
0Pruebas inestables tuvieron resultados mixtos entre ejecuciones (al menos un acierto y un fallo).…
Una prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.Respuesta incorrecta: 1Tiempo de respuesta (promedio)9.87sTiempo de respuesta (máximo)9.87sTiempo de respuesta (total)9.87sUna prueba cuenta como totalmente superada solo si todas sus ejecuciones pasan.…