Detectores que tentam separar texto escrito por pessoas de texto gerado por modelos de linguagem podem falhar quando o assunto muda. É o que sugere um estudo publicado no arXiv, ainda em versão preliminar (v1), que avalia modelos como DistilBERT e RoBERTa em notícias hiperlocais geradas por LLMs de código aberto (Llama 3, Mistral e Gemma). Segundo o resumo, os autores usaram uma abordagem de IA explicável baseada em SHAP para entender por que os classificadores decidem como decidem.
Os três padrões identificados
De acordo com o resumo, o estudo aponta três fenômenos:
- Síndrome da chamada à ação: os detectores se apoiariam em traços típicos de LLMs ajustados para seguir instruções, e não em características gerais de textos de máquina.
- Viés de especificidade: os modelos conseguiriam burlar a detecção ao inventar entidades nomeadas específicas (nomes de pessoas, lugares ou organizações) e imitar imperfeições de uma conversa.
- Paradoxo da Wikipédia: textos humanos formais e objetivos seriam classificados como IA por causa de sua baixa «burstiness» estatística, termo que o resumo usa sem detalhar.
O que muda para quem usa esses detectores
A conclusão dos autores é que detecção puramente estatística enfrenta limitações sistemáticas em domínios muito estruturados e que seria necessário criar arquiteturas semanticamente conscientes e interpretáveis. Na prática, isso sugere que um texto escrito por pessoa, mas em estilo formal, pode ser sinalizado de forma injusta, o que preocupa em contextos de avaliação.
