Greedy Decoding
Categoria
Termos Tecnicos Avancados
Greedy Decoding e a estrategia de geracao mais simples onde o modelo sempre seleciona o token com maior probabilidade a cada passo. Rapido e deterministico, mas pode produzir texto repetitivo e perder sequencias globalmente melhores.
Categoria
Termos Tecnicos Avancados
Compartilhar
O que e Greedy Decoding
Greedy Decoding e a estrategia de decodificacao mais simples para modelos de linguagem, onde a cada passo de geracao o token com maior probabilidade e selecionado, sem considerar alternativas ou explorar multiplos caminhos.
Caracteristicas:
- Sempre escolhe argmax da distribuicao de probabilidade
- Deterministico: mesma entrada sempre gera mesma saida
- Mais rapido: sem overhead de amostragem ou busca
- Pode ficar preso em loops repetitivos
Quando usar:
- Tarefas com resposta unica correta (classificacao, extracao)
- Quando determinismo e desejavel
- Como baseline para comparar com outras estrategias
- Tarefas de codigo onde precisao e critica
A Trilion seleciona a estrategia de decodificacao mais adequada para cada caso de uso, usando greedy decoding quando precisao e determinismo sao prioritarios e amostragem quando diversidade e necessaria.
