Pesquisa

Estudo aponta alterações de fatos em textos reescritos por humanizadores de IA

Uma análise de ferramentas que reescrevem textos para parecerem humanos encontrou mudanças ou omissões de números, datas, nomes e citações. Segundo o resumo do estudo no arXiv, os resultados variaram entre ferramentas e tipos de conteúdo; a pesquisa também comparou o desempenho de detectores de texto gerado por IA.

Estudo mapeia o 'vocabulário do medo' de modelos de IA e mostra que palavras isoladas disparam recusas

Um estudo publicado no arXiv afirma que a decisão de um modelo de linguagem recusar um pedido depende, em parte, das palavras que aparecem no texto, mesmo quando elas não carregam o sentido do pedido. Os autores mapearam um 'vocabulário do medo' que vai de palavras 'temidas' a palavras de 'coragem'.

Destilação que dá respostas melhores pode enfraquecer o uso das evidências, aponta estudo

Um estudo do arXiv mostra que a destilação on-policy melhora a acurácia de modelos de IA em perguntas sobre documentos científicos, mas pode fazer o modelo ignorar o trecho do texto que sustenta a resposta. Os autores propõem o EP-OPD como alternativa.

Estudo identifica uma direção interna associada à capitulação de modelos de linguagem

Análise de oito modelos encontrou uma direção linear utilizável a partir de 7 bilhões de parâmetros, segundo o resumo do artigo no arXiv. Em um teste com o Qwen2.5-7B, a ablação dessa direção reduziu em 4,8 pontos percentuais a reversão de respostas corretas após contestação do usuário.

Quantização de 4 bits mantém a acurácia de agentes de código, mas muda como eles chegam às soluções

Segundo um estudo publicado no arXiv, modelos quantizados para 4 bits não perderam acurácia estatisticamente significativa em tarefas de programação, mas mudaram o comportamento dos agentes e o tipo de erro que cometem.

Os textos de IA são todos iguais? Um estudo com 25 métricas sugere que não exatamente

Um estudo publicado no arXiv mede a homogeneidade de 18 LLMs em cinco dimensões linguísticas e conclui que os modelos dizem coisas parecidas com palavras diferentes. A medição comum, por similaridade de embeddings, pode exagerar essa semelhança.

Modelos maiores aprendem melhor 'línguas impossíveis', segundo estudo no arXiv

Um preprint no arXiv relata que modelos de linguagem com bilhões de parâmetros lidam com línguas impossíveis tão bem quanto com línguas possíveis, enquanto modelos com milhões de parâmetros apresentam queda clara de desempenho. Segundo os autores, a escala muda o foco do aprendizado, de regras gramaticais para compreensão semântica.

Estudo propõe classificar os graus de coautoria entre humanos e inteligência artificial

Pesquisa no arXiv apresenta uma estrutura de classes discretas para distinguir diferentes níveis de participação da IA na produção de textos. Segundo o resumo, paráfrases adversariais prejudicam detectores treinados sem esse tipo de dado, enquanto incluí-las no treinamento melhora a robustez.

Modelos de IA preferem chutar a perguntar? Pesquisa propõe benchmark e método de treino

Um preprint no arXiv mostra que, em sete LLMs, menos de 11% das consultas incompletas geraram uma pergunta de esclarecimento. Os autores criam o VagueBench para medir essa capacidade e o método DialogGRPO para treiná-la.

Maldição dos dois passos: por que modelos decoram fatos novos mas não os usam para deduzir

Um estudo em pré-impressão no arXiv afirma que modelos de linguagem que aprendem um fato novo por fine-tuning conseguem repeti-lo, mas não raciocinar com ele. Os autores propõem um método que muda a forma como o fato é gravado, sem usar dados de raciocínio multi-passo.

Podar camadas de uma IA custa caro, e treinar mais por mais tempo pode vencer planos sofisticados de recuperação

Um estudo do arXiv mostra que remover blocos de modelos de linguagem pequenos derruba sobretudo chamada de função e matemática. Também mostra que, com o mesmo total de tokens de treino, o treino uniforme igualou ou superou os planos de recuperação testados.

Podar modelos de linguagem reduz a precisão, mas nem sempre a capacidade de resolver problemas

Um estudo do arXiv mostra que modelos de linguagem podados podem manter a cobertura de problemas resolvidos, embora exijam mais tentativas e tokens para acertar. Por isso, os autores sugerem avaliar a poda também pelo custo de amostragem.

Pesquisa propõe transformar buscas repetidas de RAG em memória interna do modelo

Um preprint no arXiv descreve o ResMem, método que ensina um LLM a guardar conhecimento já recuperado de fontes externas, reduzindo o armazenamento necessário e mantendo ou melhorando as respostas. Segundo os autores, a técnica reduz em 94,7% o armazenamento usado para construir o professor em um subconjunto da Wikipedia.

Estudo observa quando modelos de linguagem param de reescrever seus prompts

Uma pesquisa descrita no arXiv acompanhou 54 experimentos com seis modelos de linguagem. Segundo os autores, a decisão de declarar convergência esteve mais associada à identidade do modelo do que ao modo de instrução: os dois Claude convergiram em todas as execuções, enquanto o GPT-4o fez isso em 11%.

Por que diálogos de humor gerados por IA ainda soam artificiais, segundo um estudo

Pesquisadores compararam improvisações de comédia feitas por humanos com diálogos gerados por LLMs em um ambiente de múltiplos agentes. Os modelos criam cenas coerentes, mas falham em reproduzir traços da fala espontânea e tendem à polidez.

Mesma persona de IA negocia diferente em inglês e coreano, mostra estudo

Um estudo no arXiv testou agentes de IA negociando em inglês e em coreano e encontrou diferenças de comportamento que vão além da troca de palavras. Em coreano, houve mais acordos e vendedores fizeram mais concessões.

Compressão de modelos de IA pode alterar preferências ocultas e enfraquecer auditorias de segurança

Um estudo do arXiv mostra que a quantização em 4 bits mudou de forma oposta a força de uma preferência oculta, conforme o algoritmo usado. Segundo os autores, auditorias feitas em 16 bits não bastam para estimar o risco do modelo comprimido.

Como o aprendizado de palavras por crianças expõe uma falha estrutural em modelos de visão e linguagem

Um preprint no arXiv propõe o modelo GAVAGAI, que trata cada cena como um problema de associação entre palavras e regiões da imagem. Segundo os autores, a mudança melhora a associação palavra-imagem em um corpus de vídeos infantis, mas não supera modelos contrastivos.

Estudo no arXiv propõe usar relações causais para recuperar documentos em sistemas RAG

O trabalho aponta que a busca por similaridade pode trazer textos com palavras em comum, mas sem a informação necessária. A proposta modela a recuperação final com relações causais; o resumo fornecido não permite confirmar ganhos quantitativos nem redução de alucinações.

SpectRAG usa grafos de trechos para montar contexto mais completo em perguntas complexas

Um artigo no arXiv apresenta o SpectRAG, método que organiza trechos de documentos em um grafo ponderado para escolher o contexto enviado a um modelo de linguagem, com limite fixo de tokens. Segundo os autores, a proposta busca evidências mais diversas e conectadas em perguntas que exigem vários passos de raciocínio.

Windowed-MTP: como acelerar a geração de texto em contextos de 1 milhão de tokens sem estourar a memória

Uma nova técnica aplica uma janela de atenção só ao modelo rascunho da decodificação especulativa, o que, segundo o preprint, acelera a geração em modelos híbridos com contexto de 1 milhão de tokens e libera memória do cache KV.

Simuladores de usuários controláveis podem testar agentes de IA em cenários raros

Um preprint no arXiv propõe simuladores de usuários controláveis, treinados com base causal, para testar agentes conversacionais em situações raras e com políticas novas antes do lançamento. Segundo os autores, a forma usual de treiná-los produz resultados enviesados quando a política muda.

BYOD propõe converter modelos de linguagem em sistemas de difusão usando adaptadores LoRA

O método descrito em um artigo no arXiv adapta quatro modelos já existentes sem atualizar os parâmetros de suas bases. Os autores relatam conversões em até quatro horas por modelo, mas apontam que a qualidade da geração com poucos passos ainda fica atrás das referências comparadas.

M⋆ propõe programas de memória ajustados a cada tarefa de agentes de IA

O método M⋆ busca criar automaticamente programas de memória específicos para diferentes tarefas. Segundo o resumo do artigo no arXiv, a abordagem superou as bases de comparação nas quatro tarefas avaliadas.