Destilação de raciocínio é uma forma de transferir a capacidade de raciocínio de um modelo grande, o professor, para um modelo menor, o aluno, usando as respostas e explicações que o professor gera. O problema, segundo o resumo do estudo, aparece no cenário black-box, em que o professor mostra apenas respostas finais e soluções breves. Nesse caso, cálculos intermediários e condições de validade ficam indisponíveis, o que limita o material de ensino. Trata-se de um preprint publicado no arXiv, ainda sem revisão por pares indicada na fonte.
Como funciona a proposta
Segundo os autores, o Stepwise Querying não exige acesso ao raciocínio interno do professor. Em vez disso, o método faz consultas independentes ao mesmo modelo para pedir:
- derivações intermediárias de cada passo;
- verificações de validade de cada passo;
- correções de passos específicos.
As soluções montadas a partir dessas respostas são então usadas em ajuste fino supervisionado comum.
O que os resultados mostram
De acordo com o resumo, o experimento usou dois professores, dois alunos e quatro benchmarks de matemática e código. O método alcançou a maior pontuação em 14 de 16 comparações com três linhas de base.
Os autores também apresentam uma métrica diagnóstica, a Stepwise Explanation Information Gain (SEIG), baseada na razão logarítmica das probabilidades de o aluno completar corretamente cada passo, com explicações passo a passo e globais. Nas análises feitas no GSM8K, trajetórias com resposta final errada ainda podem ser úteis quando preservam raciocínios intermediários válidos. Já decompor ainda mais o problema trouxe ganhos limitados, segundo o estudo.
O resumo não informa quais modelos foram usados nem quais benchmarks compõem o conjunto de quatro, e isso só poderá ser verificado no texto completo.
