GPT-5.6 vs Claude 5: porque é que os benchmarks divergem
Comparei Sol, Terra, Opus 5 e Fable 5 em benchmarks de programação. O vencedor muda conforme a tarefa, o esforço, a configuração do agente e o orçamento.
Nesta página
- Que modelo escolho para cada trabalho de programação?
- Como diferem o GPT-5.6 e o Claude 5 no preço e no esforço
- O que traz mais esforço: até 15 pontos por 16 vezes mais tokens
- Quem ganha com o mesmo agente? Opus 5 e Sol empatam
- Que modelo escreve o patch mais fácil de aceitar?
- O SWE Atlas divide o trabalho entre o Sol e o Fable 5
- Que modelo lida melhor com tarefas abertas para agentes? Opus 5
- Como ler uma leaderboard de 2026: compare sistemas, não nomes
Os benchmarks disponíveis em 30 de julho de 2026 não dão um vencedor claro entre GPT-5.6 e Claude 5. No DeepSWE da Datacurve, Opus 5 e Sol empatam com 74% e 73% [1], enquanto Terra iguala Fable 5 com 70% por menos de um quarto do custo [1]. A escolha depende do trabalho e do orçamento.
Que modelo escolho para cada trabalho de programação?
Escolho o Terra para trabalho rotineiro em volume, o Sol quando o objetivo está claro, o Opus 5 para um problema desconhecido e o Fable 5 para alterações que exigem cuidado em todo o repositório. O nome do modelo não chega para decidir, porque a tarefa e o nível de esforço podem mudar tanto a qualidade como o custo.
| O trabalho | A minha escolha | Esforço |
|---|---|---|
| Endpoints de rotina, mapeamentos, testes, configuração | Terra | medium ou high |
| Um pull request delimitado com critérios claros | Opus 5 | medium |
| Executar um plano conhecido, corrigir um erro repetível | Sol | high |
| Encontrar a causa de uma falha desconhecida | Opus 5 | high ou xhigh |
| Estratégia de testes para uma funcionalidade importante | Fable 5 | xhigh |
| Refactoring em todo o repositório e migrações | Fable 5 | xhigh |
| Sessões longas de terminal e depuração | Sol ou Opus 5 | high ou xhigh |
| Engenharia aberta sem uma solução conhecida | Opus 5 | xhigh |
Os padrões medidos por trás destas escolhas são mais claros do que qualquer classificação universal. Só o Sol melhora a qualidade dos patches a cada nível de esforço no FrontierCode da Cognition [15], enquanto o Fable alcança o melhor resultado com xhigh nesse benchmark e no Test Writing da Scale Labs [15] [19]. O Opus 5 exige um nível adequado ao trabalho: medium para uma alteração delimitada no FrontierCode [15] e xhigh para um problema aberto nos resultados do FrontierBench publicados pela Anthropic [16].
As recomendações dos fornecedores seguem os mesmos padrões. A OpenAI apresenta medium como um ponto de partida equilibrado [3], enquanto a Anthropic usa high por omissão e recomenda max apenas quando a tarefa justifica os tokens adicionais [6].
Como diferem o GPT-5.6 e o Claude 5 no preço e no esforço
O Terra é a exceção no preço: custa metade do Sol. A OpenAI e a Anthropic dão aos quatro modelos janelas de contexto com cerca de um milhão de tokens [2] [4]. Os níveis de esforço podem alterar ainda mais o custo e o resultado, mas as escalas dos dois fornecedores não são diretamente comparáveis.
A OpenAI apresenta o Sol como o seu principal GPT-5.6 e o Terra como a alternativa mais barata [2] [3], sendo que o alias gpt-5.6 aponta para o Sol. Na Anthropic, o Opus 5 destina-se a programação complexa e trabalho empresarial, enquanto o Fable 5 ocupa o topo da oferta para agentes de longa duração [4].
Os preços de tabela tornam a diferença clara. O Sol custa 5 $ por milhão de tokens de entrada e 30 $ pela saída; o Terra custa exatamente metade, 2,50 $ e 15 $ [2]. O Opus 5 fica nos 5 $ e 25 $, enquanto o Fable 5 sobe para 10 $ e 50 $ [5]. A Anthropic também oferece um modo mais rápido do Opus 5 em pré-visualização de investigação, mas cobra as tarifas mais altas do Fable [5].
| Especificação | Sol | Terra | Opus 5 | Fable 5 |
|---|---|---|---|---|
| Entrada, $/MTok | 5,00 | 2,50 (Melhor valor da linha) | 5,00 | 10,00 |
| Saída, $/MTok | 30 | 15 (Melhor valor da linha) | 25 | 50 |
| Leitura de cache, $/MTok | 0,50 | 0,25 (Melhor valor da linha) | 0,50 | 1,00 |
| Janela de contexto | 1,05M | 1,05M | 1M | 1M |
| Níveis de esforço | 6, de none a max | 6, de none a max | 5, de low a max | 5, de low a max |
A figura 1 mostra a diferença prática: o Terra é o único modelo mais barato do grupo. As janelas de contexto não os distinguem.
Na prática, o nível de esforço pesa muitas vezes mais no custo do que o preço de tabela. O GPT-5.6 oferece seis valores, de none a max, e a OpenAI recomenda medium como ponto de partida equilibrado [3]. O Claude oferece cinco, de low a max, começa em high e recomenda xhigh para programação e trabalho exigente com agentes; max fica reservado a tarefas que justifiquem um gasto de tokens sem restrições [6]. Estes nomes não são, porém, unidades comuns: o high da OpenAI pode representar muito mais ou muito menos computação do que o high da Anthropic.
O que traz mais esforço: até 15 pontos por 16 vezes mais tokens
Entre low e max, a Artificial Analysis mede um ganho de 10 a 15 pontos no Intelligence Index, obtido à custa de um consumo de tokens oito a dezasseis vezes maior. O Opus 5 sobe assim de 51 para 61, o Sol de 49 para 59 e o Terra de 40 para 55 [9] [10] [11].
O Intelligence Index v4.1 combina nove avaliações, atribuindo 34% a tarefas de agentes, 24% a programação, outros 24% a raciocínio científico e 18% a raciocínio geral [12]. Inclui trabalho no terminal, tarefas reais, GPQA Diamond e raciocínio com contexto longo. Aqui é especialmente útil porque a Artificial Analysis executou a mesma bateria em todos os níveis de esforço.
- Opus 5
- Sol
- Terra
Ver os dados em tabela
| Esforço | Opus 5 | Sol | Terra |
|---|---|---|---|
| low | 51 | 49 | 40 |
| medium | 56 | 54 | 46 |
| high | 59 | 56 | 49 |
| xhigh | 60 | 58 | 52 |
| max | 61 | 59 | 55 |
A figura 2 mantém a mesma ordem em todos os níveis: o Opus 5 lidera, o Sol segue a cerca de dois pontos e o Terra fica em terceiro. No topo, porém, os ganhos começam a desaparecer. De xhigh para max, o Opus 5 ganha apenas 0,62 pontos sem arredondamento, enquanto a saída sobe de 76 para 100 milhões de tokens [9].
No conjunto, o consumo de tokens cresce muito mais depressa do que a pontuação. O Opus 5 passa de 12 milhões de tokens de saída com low para 100 milhões com max; o Sol sobe de 6,6 para 70 milhões e o Terra de 5,9 para 96 milhões [9] [10] [11]. O Terra mostra o compromisso de forma particularmente clara: passar de xhigh para max quase triplica a saída por apenas três pontos [11].
Para o Fable 5, a Artificial Analysis não publica uma série completa, apenas max: 60 pontos com 87 milhões de tokens de saída, um ponto arredondado abaixo do Opus 5 [13].
Nos dois modelos da Anthropic, o sistema recorria ao Opus 4.8 quando a camada de segurança bloqueava um prompt [13] [14]. Estabelecida essa ressalva, a Artificial Analysis calcula 2,03 $ por tarefa do índice para o Opus 5 e 2,75 $ para o Fable 5 [14].
Quem ganha com o mesmo agente? Opus 5 e Sol empatam
No DeepSWE da Datacurve, os 18 modelos usam o mesmo mini-swe-agent e não há um vencedor claro. Com esforço max, o Opus 5 resolve 74% ± 4 das tarefas e o Sol 73% ± 3 [1]. Os intervalos sobrepõem-se, por isso a diferença de um ponto não é significativa. O Fable 5 e o Terra seguem com 70% [1].
Dou mais peso ao DeepSWE precisamente porque todos os modelos usam o mesmo harness. As 113 tarefas, escritas de raiz para que nenhum modelo tivesse visto uma solução durante o treino, abrangem 91 repositórios e cinco linguagens [1]. Verificadores escritos à mão testam o comportamento em vez dos detalhes da implementação. Embora os prompts tenham cerca de metade do comprimento dos do SWE-bench Pro, as soluções exigem 5,5 vezes mais código [1].
| Medição | Opus 5 | Sol | Fable 5 | Terra |
|---|---|---|---|---|
| Tarefas resolvidas, % | 74 | 73 | 70 | 70 |
| Custo por tarefa, $ | 11,84 | 8,39 | 21,63 | 4,95 (Melhor valor da linha) |
| Tokens de saída, K | 118 | 60 (Melhor valor da linha) | 119 | 72 |
| Passos do agente | 99 | 61 (Melhor valor da linha) | 88 | 76 |
A figura 3 não indica deliberadamente um vencedor nas tarefas resolvidas: 74% ± 4 e 73% ± 3 estão estatisticamente empatados, e a própria Datacurve avisa que as melhores configurações têm intervalos de confiança sobrepostos [1]. A diferença mais clara está na forma como chegam ao resultado. O Sol usa 60.000 tokens de saída e 61 passos, contra 118.000 tokens e 99 passos do Opus 5; uma tentativa custa, portanto, 8,39 $ com o Sol e 11,84 $ com o Opus 5 [1].
A diferença de custo é ainda mais nítida entre o Terra e o Fable 5, embora ambos resolvam 70%: uma tentativa custa 4,95 $ com o Terra e 21,63 $ com o Fable [1]. Dividir este valor pela taxa de sucesso dá uma estimativa otimista do custo por tarefa resolvida, 7,07 $ para o Terra e 30,90 $ para o Fable. Usei o mesmo método na minha análise do Kimi K3.
- tarefas resolvidas em esforço máximo
- 70%
- a par do Fable 5 max
- medido, por tarefa tentada
- 4,95 $
- Fable 5 max: 21,63 $
- derivado, por tarefa resolvida
- 7,07 $
- o mais barato dos quatro em max
Mesmo dentro do mesmo modelo, max nem sempre oferece a melhor relação entre custo e resultado. O Opus 5 com high obtém 73% ± 2 por 6,08 $, atingindo o nível do Sol max por menos dinheiro [1]. O Sol com xhigh chega a 71% ± 1 por 4,70 $, enquanto o Fable com xhigh consegue os mesmos 70% do nível max, mas custa 13,41 $ em vez de 21,63 $ [1]. A Datacurve inclui assim Opus 5 max, Fable 5 high e Sol medium entre os pontos eficientes da comparação entre custo e pontuação [1].
Que modelo escreve o patch mais fácil de aceitar?
O Fable 5 xhigh e o Opus 5 medium estão praticamente empatados no topo do FrontierCode da Cognition, que avalia se os responsáveis aceitariam um patch [15]. O resultado mais útil é que o Opus atinge o máximo com medium, não com max.
São os responsáveis pelos repositórios que escrevem as tarefas. Uma execução que consulta uma fonte com a solução recebe zero, e a avaliação cobre correção, qualidade dos testes, âmbito e convenções da base de código.
Os melhores resultados exatos são 53,5 para Fable 5 xhigh, 53,4 para Opus 5 medium, 47,5 para Sol max e 41,3 para Terra max [15].
- Fable 5
- Opus 5
- Sol
Ver os dados em tabela
| Esforço | Fable 5 | Opus 5 | Sol |
|---|---|---|---|
| low | 48,0 | 41,9 | 35,4 |
| medium | 49,8 | 53,4 | 39,9 |
| high | 52,7 | 48,0 | 45,1 |
| xhigh | 53,5 | 43,6 | 46,8 |
| max | 51,6 | 48,0 | 47,5 |
A figura 5 mostra três reações diferentes ao esforço adicional. O Sol melhora de forma constante, de 35,4 com low para 47,5 com max [15]. O Fable 5 atinge o pico de 53,5 com xhigh e perde 1,9 pontos com max. O Opus 5 oscila ainda mais: 53,4 com medium, 43,6 com xhigh e novamente 48,0 com max [15]. A ficha técnica da Anthropic confirma este padrão e indica medium como o melhor nível do Opus 5 no conjunto principal [16].
As regras do FrontierCode ajudam a explicar o resultado: premiam o respeito pelo âmbito [15] e verificam métodos de implementação proibidos [16]. Com mais esforço, um modelo pode abrir mais ficheiros e alargar as alterações. Essa curiosidade ajuda na investigação aberta, mas pode prejudicar um pull request estritamente delimitado. Observei o mesmo comportamento quando o Opus 5 geriu a minha semana.
A vantagem de 0,1 pontos do Fable sobre o Opus 5 medium não demonstra um vencedor real. Cada configuração conta apenas cinco execuções e ambas conseguem 58,9% de aprovação [15].
Os custos são menos ambíguos: o Fable xhigh custa 13,09 $ por execução, contra 4,30 $ do Opus medium. Até o melhor resultado do Sol, 47,5, fica abaixo do valor mais baixo do Fable, 48,0 [15].
O Claude lidera, portanto, este benchmark de qualidade dos patches. Há uma limitação importante: o Claude correu no Claude Code, enquanto o GPT-5.6 correu no Codex [15].
O SWE Atlas divide o trabalho entre o Sol e o Fable 5
Nas execuções do SWE Atlas da Scale Labs, o Sol lidera na compreensão da base de código, enquanto o Fable 5 lidera na escrita de testes e no refactoring [17] [19] [20]. Uma execução separada da Artificial Analysis inverte a ordem na compreensão, o que mostra quanto o agente pode alterar o resultado [18].
A compreensão do repositório muda com o agente
No Codebase QnA, o agente recebe um repositório real num contentor e 124 perguntas que exigem executar o software e seguir o seu funcionamento. A arquitetura vale 35% e a análise da causa raiz 30% [17]. A Scale Labs publica 46,0 ± 5,0 para o Sol xhigh no Codex e 39,0 ± 5,0 para o Fable 5 no Claude Code. Ambos recusaram algumas perguntas inofensivas por causa dos filtros de segurança, e cada recusa valeu zero [17]. O Opus 5 e o Terra não têm resultados; o anterior Opus 4.8 lidera com 57,26 [17].
Outro laboratório obtém, porém, uma ordem diferente nas mesmas 124 perguntas. O Coding Agent Index da Artificial Analysis dá 54,8 ao Opus 5 xhigh, 48,9 ao Fable 5 e 43,3 ao Sol max [18]. O conjunto de tarefas é igual, mas as execuções e os harnesses não. A inversão mostra quanto o sistema que rodeia o modelo pode afetar uma leaderboard.
O Fable 5 lidera na escrita de testes e no refactoring
O benchmark Test Writing da Scale Labs contém 90 tarefas e verifica se um agente compreende o comportamento que está a testar. Cada teste gerado tem de passar com a implementação real e falhar depois de uma alteração deliberada ao código relevante, por isso os testes vazios não recebem pontos [19]. O Fable 5 obtém 55,6 ± 5,8 e o Sol 45,9 ± 6,0, mas a sobreposição dos intervalos deixa os dois modelos classificados em primeiro lugar [19].
- Fable 5
- Sol
Ver os dados em tabela
| Benchmark | Fable 5 | Sol |
|---|---|---|
| Codebase QnA | 39,0 | 46,0 |
| Test Writing | 55,6 | 45,9 |
A figura 6 tem, assim, um vencedor diferente conforme a tarefa: nas execuções da Scale, o Sol compreende melhor um repositório desconhecido, enquanto o Fable escreve testes melhores.
No refactoring, o Fable tem o melhor resultado publicado com 54,76 ± 6,76. As 70 tarefas cobrem decomposição, alterações de interfaces, extração e deslocação; os avaliadores verificam regressões, call sites partidos, dependências circulares e código morto [20].
O Opus 5, o Sol e o Terra não têm resultados neste benchmark. O melhor GPT listado é o anterior GPT-5.5 com 44,79 [20]. Estas linhas em falta limitam a comparação, não contam como zeros.
Que modelo lida melhor com tarefas abertas para agentes? Opus 5
O Opus 5 apresenta os resultados mais fortes no conjunto das tarefas abertas para agentes. A Artificial Analysis não consegue separar com confiança o Sol, o Opus 5 e o Terra no Terminal-Bench 2.1 [21], mas os resultados publicados pela Anthropic colocam o Opus à frente no FrontierBench, no OSWorld e no AutomationBench [16].
O Terminal-Bench deixa os três líderes estatisticamente próximos
A Artificial Analysis publica 89,5% para o Sol xhigh e 89,1% para o Opus 5 max, enquanto o Sol max, o Terra max e o Opus 5 xhigh obtêm todos 88,0% [21].
O benchmark mede se um modelo consegue usar uma shell até obter um resultado verificado. Com 89 tarefas repetidas três vezes, uma única tentativa com outro desfecho move a pontuação cerca de 0,4 pontos [12]. O Fable 5 fica mais atrás com 84,6% [21].
Ver os dados em tabela
| Configuração | Valor |
|---|---|
| Sol xhigh | 89,5% |
| Opus 5 max | 89,1% |
| Terra max | 88,0% |
| Fable 5 max | 84,6% |
A figura 7 não permite, por isso, separar claramente o Sol do Opus 5, enquanto o Terra fica próximo apesar do preço de entrada mais baixo de 2,50 $ por milhão de tokens [2] [21]. A tabela de lançamento da OpenAI publica valores um pouco diferentes, 88,8% para o Sol, 87,4% para o Terra e 83,1% para o Fable 5 [7]. A diferença entre os resultados da OpenAI e a execução independente é semelhante às diferenças entre os modelos no topo, mais uma razão para não sobrevalorizar a ordem.
O trabalho aberto mais difícil favorece o Opus 5
O FrontierBench v0.1 vem da mesma equipa, mas apresenta 74 tarefas mais difíceis em biologia computacional, simulação física, CAD, provas formais e desempenho em GPU [16]. A Anthropic executou os modelos com mini-swe-agent. O Opus 5 obtém 44,4% com xhigh, 43% com max e 39% com high, que usa menos 19% de tokens de saída do que max. O Sol chega a 37,5% e o Fable 5 a 33,7%, ambos com max [16]. Nestes problemas abertos, o Opus 5 detém o melhor resultado publicado.
Outros dois benchmarks reforçam essa vantagem em tarefas longas com muitas ferramentas. No OSWorld 2.0, o modelo controla uma verdadeira VM Ubuntu com rato e teclado durante até 500 ações por tarefa. O Opus 5 obtém 70,6%, o Fable 5 66,1% e o Sol 62,6%. A Anthropic usa o resultado do Sol publicado no artigo de lançamento da OpenAI [16].
O AutomationBench da Zapier simula uma empresa com 47 aplicações e várias regras de negócio. O Opus 5 max chega a 26,0% e medium atinge 24% por 0,89 $ por tarefa, contra 18,1% do Sol e 17,4% do Fable [16]. A linha do topo do AutomationBench mudou entretanto, e explico porque a melhor pontuação do AutomationBench pertence a dois modelos.
O Opus 5 lidera os dois ambientes, mas a pequena diferença entre medium e max volta a mostrar que o esforço máximo nem sempre é necessário.
Como ler uma leaderboard de 2026: compare sistemas, não nomes
Uma leaderboard nunca mede apenas um modelo, mas também um harness, um nível de esforço e um avaliador específicos. Alterar um destes elementos pode mover a pontuação mais do que a distância entre o primeiro e o quarto lugar. Faço, por isso, cinco verificações antes de comparar resultados.
| O hábito | A prova nesta comparação |
|---|---|
| Pergunte que harness correu | No SWE-bench Pro, o Fable marca 80,0, o Opus 5 79,2 e o Sol 64,6, cada um no agente do respetivo fornecedor [16]; o agente partilhado do DeepSWE reduz a diferença entre os mesmos modelos a quatro pontos [1] |
| Respeite as barras de erro | 74 ± 4 contra 73 ± 3 [1]; três empates exatos nos 88,0% [21]; uma vantagem de 0,1 pontos em cinco execuções [15] |
| Repare na saturação | O Opus 5 faz 96,0% no SWE-bench Verified [16]; um quadro sem margem de progressão não permite ordenar os modelos |
| Verifique a versão | A página de lançamento da OpenAI cita o Coding Agent Index v1.1 com o Sol em 80 [7]; a versão v1.3 atual dá 67 ao Sol max [18] |
| Ausente não é zero | O Opus 5 não tem linha em nenhum dos três quadros da Scale [17] [19] [20]; o Terra quase não existe fora do DeepSWE e do FrontierCode |
Os números de versão são especialmente fáceis de ignorar. Uma pontuação de 80 no Coding Agent Index v1.1 e outra de 67 no v1.3 pertencem à mesma família de modelos, mas não à mesma medição. O DeepSWE também alterou o GPT-5.5 xhigh de 70% no v1 para 67% no v1.1 [1]. Sem a versão do benchmark, um resultado fica incompleto. Um exemplo mais recente é a reavaliação do Muse Spark 1.3 no índice da Artificial Analysis.
As fontes primárias também podem deixar detalhes importantes por explicar. A tabela da ficha técnica do Opus 5 identifica a execução do Sol no FrontierBench como Codex, enquanto a secção de métodos diz que usou mini-swe-agent na mesma infraestrutura; o documento não resolve o conflito [16]. O resultado do SWE-bench Multimodal, 59,4 para o Opus 5 e 54,1 para o Fable, também vem de um harness interno derivado e modificado a partir do público [16].
A Scale introduz outra variação ao dar 500 passos às execuções recentes do mini-swe-agent, contra 250 nas anteriores, e indica que os modelos principais conseguem melhores resultados nos harnesses dos próprios fornecedores [17]. Nenhuma destas escolhas torna o trabalho desonesto, mas, em conjunto, mostram que muitas linhas medem sistemas diferentes. A minha análise do Kimi K3 e do GLM-5.2 chegou à mesma conclusão com outros dados: as capacidades são reais, mas muitas pontuações não podem ser comparadas diretamente.
Três resultados em falta poderiam ainda mudar estas recomendações: o Opus 5 nos benchmarks da Scale, uma série pública dos níveis do Fable 5 e cada modelo testado no harness do outro fornecedor. Até lá, escolho com base na tarefa, não na posição mais alta. O modelo mais caro raramente é o melhor em tudo; o Terra fica perto em vários benchmarks, e reduzir o esforço pode baixar o custo e melhorar o resultado ao mesmo tempo. A OpenAI já lançou um sucessor do Sol, e a minha comparação do GPT-6 Astra com o Sol 5.6 continua a partir daqui.
Fontes
- DeepSWE leaderboard
- API models
- Latest model guide
- Models overview
- Pricing
- Effort
- GPT-5.6
- Codex models
- Claude Opus 5 analysis
- GPT-5.6 Sol analysis
- GPT-5.6 Terra analysis
- Intelligence benchmarking methodology
- Claude Fable 5 analysis
- Opus 5: Fable 5 level intelligence at a lower cost per task
- FrontierCode leaderboard
- Claude Opus 5 system card
- SWE Atlas: Codebase QnA
- Coding Agent Index
- SWE Atlas: Test Writing
- SWE Atlas: Refactoring
- Terminal-Bench v2.1 evaluation