Como avaliar se um modelo de linguagem distingue o que é seu do que veio de fora? O resumo de um estudo no arXiv propõe tratar essa questão como a medição de um “eu funcional”, em vez de deixá-la apenas no campo da discussão. A proposta reúne dois níveis inspirados em conceitos da biologia, segundo os autores.
Marcar e reconhecer
O primeiro nível, chamado de self-index ou índice de si, consiste em marcar determinado material como próprio e processá-lo de forma correspondente. O resumo compara essa ideia à marcação de sinais gerados pelo próprio organismo, descrita como corollary discharge. O segundo nível é a autorreferência: reconhecer como próprio aquilo que de fato pertence ao modelo. Os autores afirmam que os dois níveis têm critérios testáveis em modelos de pesos abertos.
O que os testes indicaram
Para investigar a distinção, os pesquisadores apresentaram o mesmo texto como mensagem do Assistente, do Usuário ou do Sistema no template de conversa do modelo. No Qwen3.8-27B, a representação diferenciou a mensagem do próprio modelo das duas fontes externas em todas as 64 camadas e em todos os textos reservados para teste, segundo o resumo. Quando perguntado quem havia escrito uma mensagem, o modelo atribuiu a autoria a si mesmo com o valor 0,77 e atribuiu as mensagens externas ao usuário.
Em três modelos e quatro configurações — Qwen3.8-27B com e sem raciocínio, gpt-oss-20b e gpt-oss-120b —, os autores alteraram oito coordenadas por camada. Substituir as coordenadas da mensagem própria pelas correspondentes a uma mensagem do Usuário reduziu a atribuição de autoria a, no máximo, 0,05; inserir as coordenadas da mensagem própria em uma mensagem do Usuário fez a atribuição aparecer. Subespaços aleatórios de igual dimensão não produziram esses efeitos.
O resumo acrescenta que as coordenadas relevantes são lidas principalmente no fim da mensagem e antes do último terço das camadas. A edição delas não alterou as respostas sobre o conteúdo nem o resultado de uma multiplicação sem relação com a mensagem. Na análise de 18 modelos de nove desenvolvedores, nenhum reconheceu mensagens próprias sem apresentar o índice de si; os autores também não encontraram relação entre os dois níveis e o tamanho dos modelos ou suas pontuações publicadas em benchmarks. A conclusão proposta é que a autorreferência funciona como uma leitura do índice de si.
