- 1O texto vira tokens
- 2A atenção liga as palavras
- 3O modelo aposta na próxima
Série: como a IA funciona · parte 1
Um modelo de linguagem não sabe a resposta. Ele aposta.
Escolha uma frase e veja os três passos: o texto é picado em tokens, cada token “olha” para os outros, e o modelo calcula a chance de cada palavra vir depois.
- futebol41%
- carnaval18%
- futuro12%
- samba7%
- café5%
Nesta edição
Todas as notíciasPesquisa
Estudo aponta alterações de fatos em textos reescritos por humanizadores de IA
há 2 hPesquisaEstudo mapeia o 'vocabulário do medo' de modelos de IA e mostra que palavras isoladas disparam recusas
há 3 hModelosMedPsy apresenta modelos médicos compactos para uso em dispositivos locais
há 3 hPesquisaModelos de IA preferem chutar a perguntar? Pesquisa propõe benchmark e método de treino
há 4 hPesquisaMaldição dos dois passos: por que modelos decoram fatos novos mas não os usam para deduzir
há 4 hModelosStep-dLLM: técnica acelera modelos de linguagem por difusão sem retreinamento
há 4 hGlossário
O pedaço de texto que o modelo lê de cada vez. Em português, uma palavra vira em média 1,5 token. É também a unidade de cobrança das APIs.