Quanto custa em energia um LLM para responder perguntas médicas? Estudo propõe medir o trade-off

Modelos de linguagem de grande porte (LLMs) já são usados em sistemas de perguntas e respostas na área médica. Segundo o resumo do estudo Tug of Watts, publicado no arXiv, a maioria dos trabalhos busca melhorar a precisão das respostas, enquanto o consumo de energia e a pegada de carbono desses modelos costumam ficar de fora. A proposta dos autores é mostrar como estimar esses números de forma confiável.

O que foi analisado

• 13 modelos, de 3 famílias, com tamanhos que vão de 270 milhões a 14 bilhões de parâmetros.
• Tarefas de perguntas médicas disponíveis no placar OpenMedical-LLM.

Por que olhar energia e acerto juntos

O ponto central do trabalho é que medir consumo e acerto separadamente não basta para comparar modelos. Os autores defendem a construção e a interpretação sistemática de métricas conjuntas de trade-off. Na prática, isso ajuda quem precisa escolher um modelo para uma tarefa específica a perceber quando um ganho pequeno de acerto custa muita energia, e vice-versa.

O que o resumo não informa

O texto divulgado não traz os valores de consumo de cada modelo, os níveis de acerto obtidos nem o custo financeiro das execuções. Também não aponta qual modelo oferece o melhor equilíbrio. Para esses dados, será preciso consultar o artigo completo.