Notícia · Amazon (AWS Labs) · 2 min de leitura
Data do fato: · Publicado:
AWS Labs libera o HOPE, um método de poda de segunda ordem para modelos MoE
A AWS Labs publicou o HOPE, um método de poda de código aberto para modelos mixture-of-experts que leva em conta as interações entre especialistas e supera o método anterior, o REAP, em benchmarks de programação agêntica.
A AWS Labs, da Amazon, publicou o HOPE (Higher-Order Pruning of Experts) no blog da Hugging Face em 9 de novembro de 2026, apresentando um método de código aberto para podar modelos de linguagem do tipo mixture-of-experts que leva em conta as interações entre os especialistas. Veja os detalhes na publicação do blog da Hugging Face que anuncia o HOPE.
As mudanças concretas
- O código está publicado no GitHub como
awslabs/HOPE, com o método detalhado em um artigo no arXiv (2609.18916). - Com 50% de podagem, o HOPE alcançou uma classificação média de 1.58, contra 2.42 do próximo melhor método, o REAP.
- O HOPE trouxe ganhos de até 6.1% em tarefas de programação agêntica em comparação com o próximo melhor método de podagem.
- No benchmark SWE-Bench Pro, um modelo Qwen3.5-35B podado em 50% com o HOPE obteve 42.3 pontos, contra 41.8 do modelo base sem podar e 36.2 do REAP.
- O HOPE foi testado nos modelos Qwen3.5-122B, Qwen3.5-35B e GLM-4.5-Air (106B parâmetros), ficando em primeiro lugar em 39% das condições testadas e entre os dois primeiros em 67%.
- A vantagem do HOPE sobre outros métodos de podagem foi maior em taxas de podagem de 40-50%.
O que isso significa para quem constrói com IA
Equipes que hospedam por conta própria grandes modelos mixture-of-experts de pesos abertos para agentes de código podem usar o HOPE para reduzir esses modelos em até a metade, perdendo menos qualidade do que com métodos de podagem existentes, como o REAP. Isso reduz o custo de executar modelos agênticos de código capazes sem precisar retreiná-los do zero.
Disponibilidade
Os checkpoints podados resultantes são compatíveis com a biblioteca transformers da Hugging Face, e o código e o artigo do HOPE estão publicados abertamente junto com a publicação do blog, para que as equipes possam aplicar o método aos seus próprios modelos mixture-of-experts.
Fontes
- Your Experts Have Partners. There's HOPE for Keeping Them Together (Hugging Face / Amazon, 9 de novembro de 2026, oficial)
Escrito com ajuda de IA, apenas a partir das fontes listadas acima. Antes de ir ao ar, verificações automáticas conferiram as datas, as fontes e todas as versões de idioma.