Pesquisa · página 2

Portões de atenção aprendidos podem reforçar modelos de IA contra injeção de prompt

Um estudo no arXiv propõe o 'Heads of Security', que aprende como cada cabeça de atenção de um transformer deve distribuir o foco entre conteúdo confiável e não confiável. Segundo os autores, a técnica reduziu muito o sucesso de ataques testados em dois modelos.

CogBattery testa 54 IAs abertas e mostra que acertar a direção de um efeito humano não prova comportamento humano

Um estudo apresentado no arXiv avaliou 54 modelos de linguagem abertos em adaptações textuais de 13 paradigmas cognitivos, comparando-os com dados humanos. Segundo os autores, reproduzir a direção de um efeito humano não basta para afirmar que o modelo se comporta como uma pessoa.

Leitores não conseguem distinguir notícias escritas por IA das humanas, aponta estudo

Um estudo publicado no arXiv testou se pessoas conseguem identificar se uma notícia foi escrita por um jornalista ou por um modelo de linguagem. Segundo os autores, a resposta é não, e eles defendem medidas no nível dos sistemas, não na atuação do leitor.

Agentes de IA podem combinar código, semântica e visão para operar computadores, propõe estudo

Um artigo no arXiv propõe a Hybrid Computer Use (HCU), interface que reúne três canais de interação para agentes que usam computadores. Segundo os autores, o resultado no OSWorld 2.0 superou os sistemas comparados.

Estudo propõe medir dois níveis de autorreferência em modelos de linguagem

Pesquisa no arXiv define um índice de “próprio” e a capacidade de reconhecer mensagens próprias como níveis de um eu funcional. Em testes com modelos de pesos abertos, os autores relatam que a autorreferência depende do índice.

Agentes de IA aceleram a análise de dados na busca por sinais extraterrestres

Segundo o blog da NVIDIA, agentes de IA já ajudam a operar o Allen Telescope Array e a processar dados de radiotelescópio durante as observações. A empresa informa que o sistema detectou um pulsar em tempo real; o resultado não é uma detecção de vida extraterrestre.

Fazer a IA raciocinar aumenta a concordância entre modelos, mas raciocinar mais pode gerar divergência

Um estudo publicado no arXiv analisou se modelos de linguagem com raciocínio tendem a concordar mais entre si. Segundo os autores, pedir mais raciocínio aumenta a concordância, mas observar um raciocínio mais longo indica o oposto.

Modelos de linguagem sabem reconhecer evidência científica convincente? Estudo testa isso em biologia

Um estudo publicado no arXiv criou o benchmark EDB-Bio para verificar se grandes modelos de linguagem avaliam evidências biológicas com a mesma cautela de cientistas especialistas. Segundo os autores, os modelos começam mal, mas melhoram após um treinamento específico.

Como modelos de linguagem associam resultados a emoções e por que isso importa para decisões automatizadas

Um preprint no arXiv testou como grandes modelos de linguagem antecipam o que apostas e negociações de ações fariam sentir e se usam essas estimativas ao escolher. Os resultados mostram que esse mapeamento muda conforme o contexto de avaliação.

Rastros de chamadas de ferramentas por agentes de IA podem revelar hábitos do usuário

Um estudo no arXiv mostra que os registros deixados por agentes de IA ao usar ferramentas externas podem revelar atributos do usuário, mesmo sem acesso às conversas. Os autores apontam que a ligação entre sessões aumenta esse risco.

Testes para saber se uma obra treinou uma IA funcionam pouco para documentos isolados

Um estudo controlado com o modelo aberto OLMo 2 1B mostra que um único documento raramente pode ser identificado como parte do treinamento, embora coleções inteiras possam ser detectadas com mais segurança. A pesquisa é um preprint publicado no arXiv.

Inércia de pensamento: modelos de IA seguem raciocinando mesmo quando mandados responder de imediato

Um estudo do arXiv descreve a 'inércia de pensamento', fenômeno em que LLMs continuam mostrando raciocínio visível mesmo sob instrução explícita para responder sem pensar. Os autores propõem novas formas de medir esse comportamento.

Estudo randomizado avalia agente de IA para preparar pacientes antes de consultas

Em um estudo prospectivo e randomizado com adultos dos Estados Unidos, um agente de IA com roteiro estruturado teve resultados melhores que um chatbot de controle em avaliações clínicas e respostas dos pacientes. O trabalho mediu preparação para a consulta, não desfechos de saúde.

Agentes de IA com busca na web deixam de ver mudanças recentes quando não são instruídos a procurá-las

Um preprint no arXiv mostra que agentes de IA conectados à internet costumam ignorar fatos recentes que afetam suas respostas, a menos que a busca por esses fatos seja pedida explicitamente. Os autores chamam esse problema de "cegueira à mudança".

Modelos de linguagem mostram viés de conformidade em RAG quando a maioria apoia uma afirmação falsa

Um preprint no arXiv relata que o modelo Gemma-3-12b detecta menos a desinformação em sistemas RAG quando vários documentos falsos concordam entre si. Os autores descrevem o resultado como evidência inicial de um viés semelhante à conformidade.

Stepwise Querying: como ensinar modelos menores a raciocinar sem o passo a passo do professor

Uma pesquisa publicada no arXiv propõe o Stepwise Querying, técnica que extrai explicações passo a passo de um modelo grande mesmo quando só são visíveis suas respostas finais. Segundo os autores, o método superou três linhas de base em 14 de 16 comparações.