Preferências de cookies

Escolha o que podemos usar. Cookies não essenciais só são ativados com a sua permissão. Detalhes na política de cookies.

Categorias de cookies

Modelo turco de 31,6 milhões de parâmetros treinado do zero supera Whisper base e small em testes de fala

Por · Publicado em · 1 fonte citada

Em resumo

  • Segundo o artigo no arXiv, o ufakzeka-kulak é um modelo aberto de reconhecimento de fala em turco, treinado do zero e liberado sob Apache-2.0.
  • Ele erra menos que o Whisper base e o small nos dois conjuntos de teste citados, mas fica atrás do Whisper large-v3.
  • Reconhecimento automático de fala (ASR, na sigla em inglês) é a tecnologia que transforma áudio em texto.

Reconhecimento automático de fala (ASR, na sigla em inglês) é a tecnologia que transforma áudio em texto. Muitos dos modelos mais conhecidos são grandes, e o artigo ufakzeka-kulak, publicado no arXiv, testa um caminho diferente: um modelo pequeno, com 31,6 milhões de parâmetros, feito para o turco. Segundo os autores, ele usa uma arquitetura FastConformer com um decodificador do tipo transducer (TDT) e uma cabeça CTC, foi treinado do zero e é distribuído sob licença Apache-2.0. O modelo escreve o turco com maiúsculas, pontuação e números por extenso.

Como foram montados os dados

Segundo o artigo, o treino somou 4.977 horas de áudio, de fontes cujas licenças permitem uso comercial. Dessas, 281 horas têm transcrição feita por humanos. As outras 4.696 horas usam como texto legenda enviada por quem publicou o vídeo ou transcrição automática, e esse texto só foi mantido quando uma segunda leitura independente do áudio concordava com ele.

WER com decodificação gulosa (quanto menor, melhor), segundo o artigo
WER com decodificação gulosa (quanto menor, melhor), segundo o artigo
ModeloFLEURS turcoCommon Voice 27.0 turco
ufakzeka-kulak0,090,09
Whisper large-v30,060,08

Fonte: ufakzeka-kulak: Building and Evaluating a 31.6M-Parameter Turkish Speech Recognizer from Scratch

Resultados

A métrica principal é a taxa de erro por palavra (WER): quanto menor, melhor. Segundo o artigo, com decodificação gulosa (greedy), o ufakzeka-kulak teve WER de 0,0921 no conjunto FLEURS turco e de 0,0916 no Common Voice 27.0 turco. Os autores informam que esses valores ficaram abaixo do Whisper base e do Whisper small nos dois conjuntos. O Whisper large-v3, porém, teve resultados melhores: 0,0604 e 0,0767. Em fala conversacional, o WER subiu para 0,3807.

Segundo o texto, os conjuntos de teste foram avaliados uma única vez, em um critério de liberação definido antes do treino. O artigo também relata pontuação e maiúsculas, áudio degradado e a fidelidade de cada versão exportada em relação ao modelo treinado.

O que ainda não está claro

O resumo não detalha o desempenho do modelo fora dos dois conjuntos citados, nem os valores completos do artigo sobre áudio degradado.

Em números

Parâmetros
31,6 milhões
Horas de treino
4.977
Horas com transcrição humana
281
WER em fala conversacional
0,3807

Fonte: ufakzeka-kulak: Building and Evaluating a 31.6M-Parameter Turkish Speech Recognizer from Scratch

Fontes

  1. arXiv:2611.03605 - ufakzeka-kulak: Building and Evaluating a 31.6M-Parameter Turkish Speech Recognizer from Scratch

Este texto foi produzido com apoio de inteligência artificial a partir das fontes acima e revisado segundo a nossa política editorial. Encontrou um erro? Peça uma correção.

Leia também