PROSE investiga por que modelos de IA podem manter condenações sem base jurídica

Modelos de previsão de julgamento podem conservar um veredito de culpa mesmo quando uma condição juridicamente decisiva é alterada e a acusação deixa de estar estabelecida. Esse comportamento, chamado pelos pesquisadores de viés de culpa (guilty bias), é o foco do estudo PROSE, publicado no arXiv.

Casos pareados para testar o viés

Segundo o resumo do estudo, a equipe criou o CAIL-MC, uma base revisada juridicamente com 11.478 pares de casos relacionados a 261 acusações criminais chinesas. Em cada par, os casos são comparáveis, mas diferem quanto a uma condição necessária para estabelecer a acusação. A avaliação considera que o veredito sem sustentação deve ser corrigido, enquanto a decisão de culpa apoiada pelo caso deve permanecer estável.

Os pesquisadores também analisaram intervenções nas ativações dos modelos usando casos separados daqueles empregados no treinamento. De acordo com o resumo, os padrões extraídos de pares resolvidos corretamente puderam ser transferidos para casos de falsa culpa. As intervenções direcionadas à correção, contudo, também podiam prejudicar decisões de culpa que tinham sustentação.

Como funciona o PROSE

Para lidar com esse risco, o método PROSE reconstrói alvos específicos para cada caso com base em padrões aprendidos no treinamento. Em seguida, alinha esses alvos a um sinal de ajuste local, reduz a influência de componentes sensíveis a decisões corretas de culpa e aplica uma atualização de parâmetros de baixo posto com regularização voltada à preservação.

Resultados e implicações

O resumo informa que o PROSE foi avaliado nos modelos Qwen3-8B e GLM4-9B. Nesses testes, o método apresentou resultados mais fortes em reparo seguro de pares de casos e sensibilidade a evidências, mantendo a inferência padrão em uma única passagem.

O achado destaca um desafio para sistemas de IA aplicados à previsão judicial: alterar uma decisão errada sem desestabilizar decisões corretas. A avaliação descrita se concentra em acusações criminais chinesas e nos dois modelos citados; por isso, os resultados apresentados dizem respeito a esse escopo.