Pesquisa propõe transformar buscas repetidas de RAG em memória interna do modelo

Modelos de linguagem grandes (LLMs) costumam errar em perguntas factuais que estão fora do que aprenderam no treinamento. Uma saída comum é a geração aumentada por recuperação (RAG, na sigla em inglês), em que o sistema busca textos externos antes de responder. Segundo o resumo do artigo, essa abordagem ajuda o modelo, mas aumenta os custos de armazenamento e de inferência. Um preprint publicado no arXiv, com o título From Lookups to Lessons, propõe uma forma de reaproveitar essas buscas sem refazê-las a cada pergunta.

A ideia central

De acordo com os autores, a técnica consiste em destilar informações já recuperadas em uma memória paramétrica, isto é, em parâmetros treinados que ficam dentro do próprio sistema. Assim, a informação pode ser reutilizada sem nova consulta online. Segundo o texto, métodos anteriores treinam essa memória para imitar o buscador, o que premia previsões independentemente corretas, mas que nem sempre melhoram o resultado final quando combinadas com as respostas que o LLM já produz.

O ResMem, nome dado ao método, funciona assim, de acordo com o resumo: o LLM lê os textos recuperados offline e gera alvos para treino. Esse desenho dispensa o armazenamento de grandes volumes de representações de tokens, que outras abordagens, como a MLP Memory, exigem em bases de vizinhos mais próximos (kNN). A memória aprende um ajuste aditivo sobre as previsões do modelo, alinhando-as à distribuição do professor.

Números informados

• Em um subconjunto da Wikipedia, o armazenamento retido para construir o professor caiu 94,7% em relação ao pipeline kNN avaliado.
• Em cinco conjuntos de perguntas e respostas, a F1 média por token subiu de 32,83% (LLM congelado) para 34,48%.
• O método quebra 21% menos respostas corretas do LLM do que uma memória treinada com kNN.

Os autores afirmam que os resultados validam a tese de tratar a recuperação como um recurso de aprendizado. O código e os pesos do modelo estão disponíveis, segundo o artigo, no GitHub e no Hugging Face, com a versão do modelo baseada no Mistral-7B-v0.3.

O que ainda não está claro

O resumo não identifica os cinco conjuntos de perguntas e respostas usados nos testes, e trata-se de uma primeira versão (v1) ainda não validada por revisão externa, pelo que se pode ler na fonte.