Quem lê muita ficção escrita por IA pode ter notado um padrão: os mesmos nomes aparecem de novo e de novo. Segundo o resumo de um estudo publicado no arXiv, personagens de ficção gerada por modelos de linguagem (LLMs) se concentram em poucos nomes recorrentes, como «Elara» e «Elias». Os autores tratam isso como uma face mensurável do que chamam de «AI slop», isto é, conteúdo genérico produzido por IA.
Por que as correções antigas não bastavam
De acordo com o texto, as soluções já existentes exigem acesso aos logits do modelo ou um retreinamento, ou atuam pedido a pedido. Nesse caso, nenhuma delas consegue controlar a concentração no conjunto total de textos. Na prática, um gerador pode evitar um nome num conto e repetir outro no seguinte.
O que o estudo propõe
O trabalho compara oito estratégias de controle e apresenta o «speculative naming», um método sem ajuste fino que, segundo os autores, adapta para nomes o paradigma rascunho-verificação-rejeição da decodificação especulativa, originalmente aplicado a tokens. Em linhas gerais, o método pede conjuntos de nomes candidatos, pontua cada conjunto com um rastreador chamado SlopTracker (que combina uma impressão digital por modelo e um contador em tempo de execução) e seleciona um deles por uma regra controlada por temperatura ou por sua variante estrita, chamada HARD.
Os principais resultados
- Listas de palavras proibidas não resolveram o problema: segundo o estudo, elas apenas deslocam a concentração para nomes emergentes e reduzem mais que pela metade a parcela de nomes reais atestados.
- O andaime de amostragem sozinho reduziu o índice SR em 89%, em média. Com o rastreador dinâmico, a redução total chegou a 95%.
- Colisões com nomes conhecidos ficaram em zero, e a naturalidade se manteve próxima da linha de base, com 42% a 69% de nomes atestados conforme o idioma.
- Segundo os autores, a ordem das estratégias se manteve estável entre idiomas, famílias de modelos e convenções de contagem de nomes.
O que ainda não está claro
O resumo não detalha quais são as oito estratégias comparadas. Os autores também afirmam que a diversidade criativa além dos nomes continua em aberto. Como esta nota se baseia apenas no resumo, os detalhes completos estão no artigo original.
Este texto foi produzido com apoio de inteligência artificial a partir das fontes acima e revisado segundo a nossa política editorial. Encontrou um erro? Peça uma correção.
