34Pontuação média em todos os testes de benchmark.…
48Pontuação média em todos os testes de benchmark.…
Consistência
89A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
58A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
Custo por resultado
0.147Mostra o custo médio por resposta correta no benchmark, em centavos (quanto menor, melhor).…
4.937Mostra o custo médio por resposta correta no benchmark, em centavos (quanto menor, melhor).…
Custo total
$0.006Custo total…
$0.247Custo total…
Tempo de resposta (médio)
594msTempo de resposta (médio)…
47.58sTempo de resposta (médio)…
Tempo de resposta (máx.)
1.27sTempo de resposta (máx.)…
237.27sTempo de resposta (máx.)…
Tempo de resposta (total)
8.91sTempo de resposta (total)…
380.62sTempo de resposta (total)…
Testes corretos
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 11Tempo de resposta (médio)594msTempo de resposta (máx.)1.27sTempo de resposta (total)8.91sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 5Não seguiu as instruções: 2Tempo esgotado: 2invalid tool call: 1Tempo de resposta (médio)47.58sTempo de resposta (máx.)237.27sTempo de resposta (total)380.62sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
Taxa de acerto por tentativa
33.3%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
62.2%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
Testes instáveis
2Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
8Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Tokens de saída
1,144Tokens de saída…
107,019Tokens de saída…
Tokens de raciocínio
0Tokens de raciocínio…
204,504Tokens de raciocínio…
Melhores modelos por pontuação
Tempo de resposta (médio)
Pontuação vs custo total
Pontuação média vs Tempo de resposta (médio)
Detalhamento por categoria
Truques anti-IA
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
100Pontuação média em todos os testes de benchmark.…
100A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
0.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 3Tempo de resposta (médio)466msTempo de resposta (máx.)716msTempo de resposta (total)1.40sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
466msTempo de resposta (médio)…
274Tokens de saída…
0Tokens de raciocínio…
MiniMax: MiniMax M2.5
93Pontuação média em todos os testes de benchmark.…
79A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
88.9%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
1Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Não seguiu as instruções: 1Tempo de resposta (médio)32.42sTempo de resposta (máx.)32.42sTempo de resposta (total)32.42sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
32.42sTempo de resposta (médio)…
286Tokens de saída…
45,112Tokens de raciocínio…
Combinado
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
100Pontuação média em todos os testes de benchmark.…
100A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
0.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 1Tempo de resposta (médio)606msTempo de resposta (máx.)606msTempo de resposta (total)606msUm teste é totalmente aprovado apenas quando todas as execuções passam.…
606msTempo de resposta (médio)…
131Tokens de saída…
0Tokens de raciocínio…
MiniMax: MiniMax M2.5
100Pontuação média em todos os testes de benchmark.…
21A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
66.7%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
1Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.invalid tool call: 1Tempo de resposta (médio)60.39sTempo de resposta (máx.)60.39sTempo de resposta (total)60.39sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
60.39sTempo de resposta (médio)…
740Tokens de saída…
9,713Tokens de raciocínio…
Análise e extração de dados
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
55Pontuação média em todos os testes de benchmark.…
59A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
83.3%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
1Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 1Tempo de resposta (médio)667msTempo de resposta (máx.)819msTempo de resposta (total)1.33sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
667msTempo de resposta (médio)…
180Tokens de saída…
0Tokens de raciocínio…
MiniMax: MiniMax M2.5
100Pontuação média em todos os testes de benchmark.…
17A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
66.7%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
2Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 2Tempo de resposta (médio)7.48sTempo de resposta (máx.)7.48sTempo de resposta (total)7.48sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
7.48sTempo de resposta (médio)…
266Tokens de saída…
3,835Tokens de raciocínio…
Específico do domínio
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
40Pontuação média em todos os testes de benchmark.…
72A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
44.4%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
1Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 2Tempo de resposta (médio)534msTempo de resposta (máx.)733msTempo de resposta (total)1.60sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
534msTempo de resposta (médio)…
46Tokens de saída…
0Tokens de raciocínio…
MiniMax: MiniMax M2.5
100Pontuação média em todos os testes de benchmark.…
44A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
22.2%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
2Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 2Tempo esgotado: 1Tempo de resposta (médio)237.27sTempo de resposta (máx.)237.27sTempo de resposta (total)237.27sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
237.27sTempo de resposta (médio)…
105,047Tokens de saída…
133,487Tokens de raciocínio…
Seguimento de instruções
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
55Pontuação média em todos os testes de benchmark.…
100A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
50.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 1Tempo de resposta (médio)551msTempo de resposta (máx.)622msTempo de resposta (total)1.10sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
551msTempo de resposta (médio)…
82Tokens de saída…
0Tokens de raciocínio…
MiniMax: MiniMax M2.5
80Pontuação média em todos os testes de benchmark.…
68A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
83.3%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
1Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Não seguiu as instruções: 1Tempo de resposta (médio)4.64sTempo de resposta (máx.)4.64sTempo de resposta (total)4.64sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
4.64sTempo de resposta (médio)…
252Tokens de saída…
1,873Tokens de raciocínio…
Puzzle Solving
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
100Pontuação média em todos os testes de benchmark.…
100A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
0.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 3Tempo de resposta (médio)533msTempo de resposta (máx.)637msTempo de resposta (total)1.60sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
533msTempo de resposta (médio)…
234Tokens de saída…
0Tokens de raciocínio…
MiniMax: MiniMax M2.5
40Pontuação média em todos os testes de benchmark.…
72A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
44.4%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
1Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Tempo esgotado: 1Resposta incorreta: 1Tempo de resposta (médio)11.54sTempo de resposta (máx.)17.37sTempo de resposta (total)23.08sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
11.54sTempo de resposta (médio)…
159Tokens de saída…
9,547Tokens de raciocínio…
Chamada de ferramentas
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
100Pontuação média em todos os testes de benchmark.…
100A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
100.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Sem respostas com falha.Tempo de resposta (médio)1.27sTempo de resposta (máx.)1.27sTempo de resposta (total)1.27sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
1.27sTempo de resposta (médio)…
197Tokens de saída…
0Tokens de raciocínio…
MiniMax: MiniMax M2.5
100Pontuação média em todos os testes de benchmark.…
100A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
100.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Sem respostas com falha.Tempo de resposta (médio)15.35sTempo de resposta (máx.)15.35sTempo de resposta (total)15.35sUm teste é totalmente aprovado apenas quando todas as execuções passam.…