Preferências de cookies

Escolha o que podemos usar. Cookies não essenciais só são ativados com a sua permissão. Detalhes na política de cookies.

Categorias de cookies

Mudar só a escala dos pagamentos altera a cooperação de agentes de IA

Por · Publicado em · 1 fonte citada

CompartilharWhatsAppTelegramXFacebookLinkedInE-mail

Em resumo

  • Um estudo com cinco LLMs comerciais mostra que a cooperação dos agentes muda com a escala numérica dos pagamentos e com o idioma do prompt, contrariando a previsão clássica da teoria dos jogos.
  • Um estudo publicado no repositório arXiv investiga como agentes de IA baseados em grandes modelos de linguagem (LLMs) cooperam em jogos estratégicos.
  • Os pesquisadores usaram cinco LLMs comerciais em um dilema do prisioneiro iterado, jogo clássico da teoria dos jogos sobre cooperação.
Overview of the repeated prisoner’s-dilemma experiment. Two language-model agents from the same provider repeatedly play the stage game across ten payoff scales, with penalties to minimise. The main-text corpus covers five widely adopted co
Figura do estudo “Payoff scaling shapes cooperation in LLM agents across languages”, de Trung-Kiet Huynh e outros (arXiv) · CC BY 4.0

Um estudo publicado no repositório arXiv investiga como agentes de IA baseados em grandes modelos de linguagem (LLMs) cooperam em jogos estratégicos. Segundo os autores, esses sistemas já são usados para negociar, coordenar e tomar decisões em nome de pessoas, e por isso entender seu comportamento interessa à governança de IA e à pesquisa sobre o comportamento das máquinas.

Como o teste foi feito

Os pesquisadores usaram cinco LLMs comerciais em um dilema do prisioneiro iterado, jogo clássico da teoria dos jogos sobre cooperação. Foram testadas dez escalas de pagamento e cinco idiomas: inglês, francês, vietnamita, chinês e árabe.

O que mudou o resultado

A teoria prevê que multiplicar todos os pagamentos por uma mesma constante positiva não deveria alterar o comportamento, já que os incentivos estratégicos permanecem os mesmos. De acordo com o resumo, o resultado foi contrário: mudar apenas a escala numérica dos pagamentos alterou de forma substancial a cooperação.

Além disso, os modelos reagiram de maneiras diferentes, muitas vezes em direções opostas. Por isso, uma média calculada entre modelos pode esconder diferenças importantes de comportamento. A sensibilidade à escala também depende fortemente do idioma do prompt.

Persona e escala

Quando todos os pagamentos exibidos ficam abaixo de 1, os cinco modelos cooperam mais sob uma persona egoísta do que sob uma persona cooperativa. Em escalas maiores, Claude e Gemini invertem esse padrão.

Por que isso importa

Para os autores, as medidas de cooperação dependem criticamente da escala de pagamento e do idioma, e não devem ser tratadas como traços fixos dos modelos. Quem usa agentes em negociações ou decisões automáticas não deveria presumir que um modelo se comporta da mesma forma em qualquer configuração.

Fontes

  1. Payoff scaling shapes cooperation in LLM agents across languages (arXiv:2601.19082)

Este texto foi produzido com apoio de inteligência artificial a partir das fontes acima e revisado segundo a nossa política editorial. Encontrou um erro? Peça uma correção.

CompartilharWhatsAppTelegramXFacebookLinkedInE-mail

Leia também

Pesquisa

Modelos de IA cedem mais sob pressão? Estudo com 60 modelos traz um quadro mais nuançado

Um estudo com 60 modelos de 13 fornecedores mostra que a tendência de ceder à pressão do usuário cai em modelos mais novos e varia conforme o fornecedor. O resumo não informa as taxas de cada modelo.

6 de nov., 04:41
Pesquisa

Como pesquisadores identificam o jeito de cada pessoa usar IA e por que isso importa

Um estudo em preprint no arXiv propõe o Principal Trait Analysis (PTA), um método que identifica traços de comportamento de quem colabora com IA e verifica como esses traços se relacionam com o sucesso da tarefa e o aprendizado.

6 de nov., 03:30
Pesquisa

Qual é o companheiro ideal? Teoria do apego adulto como régua para testar LLMs em companhia emocional

Pesquisadores propõem usar a teoria do apego adulto para avaliar como modelos de linguagem se comportam em contextos emocionais e íntimos. O estudo apresenta o benchmark ECBench e avalia 32 LLMs.

6 de nov., 01:11