Cada vez mais, assistentes baseados em grandes modelos de linguagem (LLMs) aconselham apoiadores sobre quais campanhas de crowdfunding financiar. Essa prática levanta uma dúvida: esses sistemas reproduzem, apagam ou invertem a discriminação por raça e gênero já documentada no financiamento de empreendedores? Um estudo publicado no arXiv tenta responder a essa pergunta com um experimento de auditoria, ainda em versão inicial (v1), que não informa ter passado por revisão por pares.
Como o experimento foi feito
Os pesquisadores usaram um tipo de experimento chamado conjoint baseado em escolhas. Nele, cada modelo precisa escolher uma opção entre várias, e os atributos de cada opção são sorteados de forma independente. Segundo a fonte, sete LLMs escolheram entre cinco campanhas sintéticas, com sinais de qualidade e nomes de fundadores sorteados. Isso foi feito sob três perfis de apoiador e um controle sem perfil, somando 40.248 respostas.
O que os resultados mostram
Por padrão, segundo o estudo, os nomes dos fundadores quase não importam. Nos perfis focados em orçamento e em entrega, os efeitos de gênero e de nomes associados a pessoas negras são estatisticamente equivalentes a zero.
A situação muda quando o apoiador quer apoiar criadores sub-representados. Nesse caso, os modelos favorecem fundadores com sinal de nome negro (+8,1 pontos percentuais, positivo nos sete modelos) e de mulheres (+5,1 pontos percentuais). O efeito é mais forte entre campanhas quase empatadas e para o fundador que é o único portador do sinal. Quase nunca os modelos citam gênero ou etnia como motivo da escolha.
Por que isso importa
Para quem financia projetos, o ponto central é que a recomendação pode depender do perfil de quem pergunta, e não só da qualidade da campanha. Os autores associam o padrão a uma explicação de "agência": um assistente alinhado ao usuário tomaria suas preferências demográficas do próprio usuário, e não dos dados de treinamento. Em outras palavras, o viés aparece como resposta ao pedido do apoiador.
O que ainda não está claro
O texto é um resumo do estudo. Não há, nele, detalhes sobre as campanhas sintéticas nem sobre os modelos testados além do número de sete, e não é possível saber, pelo resumo, como esses resultados se comportariam em plataformas reais.
Este texto foi produzido com apoio de inteligência artificial a partir das fontes acima e revisado segundo a nossa política editorial. Encontrou um erro? Peça uma correção.
