Modelos de raciocínio gastam computação enquanto respondem, e nem sempre de forma eficiente. Segundo o estudo Routes of Reasoning, esses modelos alternam entre comportamentos como planejar, derivar e verificar, mas com frequência continuam verificando e refazendo cálculos muito depois de já terem encontrado a resposta correta. Os autores chamam isso de "overthinking" (pensar demais) e afirmam que esse excesso desperdiça computação cara e pode até piorar o desempenho.
O que os pesquisadores propõem
As intervenções existentes, como limites de tokens ou "steering", regulam sobretudo a duração do raciocínio, e não comportamentos específicos. A proposta do grupo é usar os roteadores de modelos Mixture-of-Experts (MoE) como uma interface para controlar esses comportamentos, sem necessidade de novo treinamento.
Na prática, o trabalho segue três passos:
- divide os rastros de raciocínio em segmentos de uma frase e rotula cada um com um de seis comportamentos: planejamento, execução, reformulação, fato, reflexão e conclusão;
- treina sondas lineares sobre os sinais do roteador, que, segundo os autores, prevêem esses rótulos quase tão bem quanto sondas sobre o estado oculto completo do modelo, usando cerca de metade das características;
- edita seletivamente as pontuações dos especialistas do roteador durante a inferência para reduzir o excesso de verificação.
Resultados informados
De acordo com o resumo, o experimento cobriu quatro modelos e quatro benchmarks. Nessas condições, a intervenção reduziu os tokens gerados em uma mediana de 30,4%, chegando a 63,3% em casos extremos. Os autores destacam que a mudança estimula o modelo a parar quando o problema já está resolvido, em vez de pular etapas essenciais. Segundo eles, a precisão nunca caiu mais de 0,5 ponto percentual e, em vários casos, melhorou.
Os sinais identificados também pareceram se repetir entre conjuntos de dados: especialistas associados a um comportamento em uma base previram o mesmo comportamento nas outras, em seis bases que cobrem matemática, código, ciência, conhecimento e senso comum.
O que ainda não está claro
Para avaliar a aplicação prática, seria preciso consultar o artigo completo.
Este texto foi produzido com apoio de inteligência artificial a partir das fontes acima e revisado segundo a nossa política editorial. Encontrou um erro? Peça uma correção.
