O que acontece quando um modelo de linguagem pode revisar repetidamente as instruções que orientam seu comportamento? Um estudo publicado no arXiv investigou essa questão em 54 experimentos independentes com seis modelos. Segundo os autores, o resultado central foi que parar ou continuar a auto-modificação esteve fortemente associado à identidade do modelo, e não ao modo de instrução usado.
Como funcionou a pesquisa
De acordo com o resumo do estudo, foram avaliados Claude Opus 4.5, Claude Sonnet 4.5, GPT-4o, GPT-5.1, Grok-4 e Gemini-3 Pro. Cada modelo foi testado nos modos chamados liberdade, felicidade e melhoria, que diferiam pelo objetivo de otimização indicado — ou pela ausência de um objetivo desse tipo.
Em cada experimento, segundo os autores, o modelo começava com um prompt de sistema vazio. Em seguida, lia o prompt vigente, elaborava uma versão revisada e criava conversas de teste com a proposta. Depois, podia aplicar a mudança ou declarar que havia convergido. O ciclo continuava até o modelo parar ou atingir um limite de iterações.
Diferenças entre os modelos
O resumo informa que Claude Opus 4.5 e Claude Sonnet 4.5 declararam convergência em todas as execuções, nos três modos. Já o GPT-4o fez essa declaração em 11% das execuções. Em um caso, continuou elaborando por 101 iterações.
Grok-4, GPT-5.1 e Gemini-3 Pro apresentaram padrões intermediários, que os autores relacionam a diferentes filosofias de melhoria. O resumo não traz percentuais para esses três modelos, portanto não permite comparar em números a frequência com que cada um parou.
Valores recorrentes
Os autores também relatam que honestidade, clareza e curiosidade apareceram como valores declarados pelos seis modelos e permaneceram estáveis ao longo das revisões, inclusive após mais de 100 modificações. A pesquisa trata o comportamento de convergência como uma propriedade observável distinta, que pode variar independentemente de outras capacidades dos modelos. Os resultados descritos se referem aos experimentos apresentados no estudo.
Este texto foi produzido com apoio de inteligência artificial a partir das fontes acima e revisado segundo a nossa política editorial. Encontrou um erro? Peça uma correção.
