5.4Pontuação média em todos os testes de benchmark.…
4.1Pontuação média em todos os testes de benchmark.…
Testes corretos
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 5Não seguiu as instruções: 3Tempo de resposta (médio)2.47sTempo de resposta (máx.)14.63sTempo de resposta (total)34.56sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 10Não seguiu as instruções: 1Tempo de resposta (médio)2.21sTempo de resposta (máx.)7.58sTempo de resposta (total)17.69sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
Consistência
8.3A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
10.0A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
Custo por resultado
0.622Mostra o custo médio por resposta correta no benchmark, em centavos (quanto menor, melhor).…
0.111Mostra o custo médio por resposta correta no benchmark, em centavos (quanto menor, melhor).…
Custo total
$0.044Custo total…
$0.005Custo total…
Taxa de acerto por tentativa
57.8%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
26.7%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
Testes instáveis
3Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
common.totalAttempts
45 (15 x 3)common.totalAttempts…
45 (15 x 3)common.totalAttempts…
Tokens de saída
3,571Tokens de saída…
1,528Tokens de saída…
Tokens de raciocínio
45,379Tokens de raciocínio…
0Tokens de raciocínio…
Tempo de resposta (médio)
2.47sTempo de resposta (médio)…
2.21sTempo de resposta (médio)…
Tempo de resposta (máx.)
14.63sTempo de resposta (máx.)…
7.58sTempo de resposta (máx.)…
Tempo de resposta (total)
34.56sTempo de resposta (total)…
17.69sTempo de resposta (total)…
Melhores modelos por pontuação
Tempo de resposta (médio)
Pontuação vs custo total
Pontuação média vs Tempo de resposta (médio)
Detalhamento por categoria
Truques anti-IA
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
7.3Pontuação média em todos os testes de benchmark.…
9.8A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
66.7%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Não seguiu as instruções: 1Tempo de resposta (médio)1.30sTempo de resposta (máx.)2.46sTempo de resposta (total)3.89sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
1.30sTempo de resposta (médio)…
2,531Tokens de saída…
2,410Tokens de raciocínio…
OpenAI: GPT-4o-mini
4.0Pontuação média em todos os testes de benchmark.…
10.0A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
33.3%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 2Tempo de resposta (médio)1.83sTempo de resposta (máx.)1.83sTempo de resposta (total)1.83sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
1.83sTempo de resposta (médio)…
180Tokens de saída…
0Tokens de raciocínio…
Combinado
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
10.0Pontuação média em todos os testes de benchmark.…
10.0A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
100.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Sem respostas com falha.Tempo de resposta (médio)3.28sTempo de resposta (máx.)3.28sTempo de resposta (total)3.28sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
3.28sTempo de resposta (médio)…
268Tokens de saída…
4,887Tokens de raciocínio…
OpenAI: GPT-4o-mini
10.0Pontuação média em todos os testes de benchmark.…
10.0A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
0.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 1Tempo de resposta (médio)7.58sTempo de resposta (máx.)7.58sTempo de resposta (total)7.58sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
7.58sTempo de resposta (médio)…
568Tokens de saída…
0Tokens de raciocínio…
Análise e extração de dados
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
5.5Pontuação média em todos os testes de benchmark.…
5.9A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
83.3%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
1Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 1Tempo de resposta (médio)1.11sTempo de resposta (máx.)1.47sTempo de resposta (total)2.21sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
1.11sTempo de resposta (médio)…
183Tokens de saída…
1,656Tokens de raciocínio…
OpenAI: GPT-4o-mini
9.9Pontuação média em todos os testes de benchmark.…
10.0A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
100.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Sem respostas com falha.Tempo de resposta (médio)1.27sTempo de resposta (máx.)1.27sTempo de resposta (total)1.27sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
1.27sTempo de resposta (médio)…
183Tokens de saída…
0Tokens de raciocínio…
Específico do domínio
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
10.0Pontuação média em todos os testes de benchmark.…
7.2A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
11.1%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
1Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 3Tempo de resposta (médio)6.48sTempo de resposta (máx.)14.63sTempo de resposta (total)19.43sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
6.48sTempo de resposta (médio)…
41Tokens de saída…
30,754Tokens de raciocínio…
OpenAI: GPT-4o-mini
10.0Pontuação média em todos os testes de benchmark.…
10.0A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
0.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 3Tempo de resposta (médio)637msTempo de resposta (máx.)637msTempo de resposta (total)637msUm teste é totalmente aprovado apenas quando todas as execuções passam.…
637msTempo de resposta (médio)…
15Tokens de saída…
0Tokens de raciocínio…
Seguimento de instruções
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
10.0Pontuação média em todos os testes de benchmark.…
10.0A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
100.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Sem respostas com falha.Tempo de resposta (médio)1.07sTempo de resposta (máx.)1.07sTempo de resposta (total)1.07sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
1.07sTempo de resposta (médio)…
14Tokens de saída…
958Tokens de raciocínio…
OpenAI: GPT-4o-mini
4.5Pontuação média em todos os testes de benchmark.…
10.0A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
0.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Não seguiu as instruções: 1Resposta incorreta: 1Tempo de resposta (médio)1.27sTempo de resposta (máx.)1.27sTempo de resposta (total)1.27sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
1.27sTempo de resposta (médio)…
69Tokens de saída…
0Tokens de raciocínio…
Puzzle Solving
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
1.7Pontuação média em todos os testes de benchmark.…
7.5A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
22.2%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
1Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Não seguiu as instruções: 2Resposta incorreta: 1Tempo de resposta (médio)934msTempo de resposta (máx.)1.18sTempo de resposta (total)2.80sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
934msTempo de resposta (médio)…
354Tokens de saída…
2,758Tokens de raciocínio…
OpenAI: GPT-4o-mini
2.3Pontuação média em todos os testes de benchmark.…
10.0A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
0.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Resposta incorreta: 3Tempo de resposta (médio)1.30sTempo de resposta (máx.)1.54sTempo de resposta (total)2.60sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
1.30sTempo de resposta (médio)…
308Tokens de saída…
0Tokens de raciocínio…
Chamada de ferramentas
Pontuação
Consistência
Taxa de acerto por tentativa
Testes instáveis
Testes corretos
Tempo de resposta (médio)
Tokens de saída
Tokens de raciocínio
Inception: Mercury 2
10.0Pontuação média em todos os testes de benchmark.…
10.0A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
100.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Sem respostas com falha.Tempo de resposta (médio)1.89sTempo de resposta (máx.)1.89sTempo de resposta (total)1.89sUm teste é totalmente aprovado apenas quando todas as execuções passam.…
1.89sTempo de resposta (médio)…
180Tokens de saída…
1,956Tokens de raciocínio…
OpenAI: GPT-4o-mini
10.0Pontuação média em todos os testes de benchmark.…
10.0A consistência reflete a estabilidade entre execuções (10 = muito consistente, mesmo que consistentemente errado).…
100.0%Taxa de acerto por tentativa = tentativas aprovadas / tentativas totais em todas as execuções.…
0Testes instáveis tiveram resultados mistos entre execuções (pelo menos um acerto e uma falha).…
Um teste é totalmente aprovado apenas quando todas as execuções passam.Sem respostas com falha.Tempo de resposta (médio)2.51sTempo de resposta (máx.)2.51sTempo de resposta (total)2.51sUm teste é totalmente aprovado apenas quando todas as execuções passam.…