Beam Search
Categoria
Termos Tecnicos Avancados
Beam Search e um algoritmo de decodificacao que explora multiplas sequencias candidatas simultaneamente, mantendo as K mais provaveis a cada passo. Encontra sequencias de maior probabilidade global, sendo usado em traducao, sumarizacao e geracao estruturada.
Categoria
Termos Tecnicos Avancados
Compartilhar
O que e Beam Search
Beam Search e um algoritmo de busca heuristica usado na decodificacao de modelos de linguagem que manttem K hipoteses (beams) simultaneamente, expandindo as mais promissoras a cada passo de geracao.
Como funciona:
- A cada passo, expande cada beam com os top-V tokens mais provaveis
- De K*V candidatos, seleciona os K melhores por probabilidade acumulada
- Continua ate atingir token de fim ou comprimento maximo
- Retorna a sequencia completa de maior pontuacao
Parametros:
- Beam width (K): numero de hipoteses mantidas (tipicamente 4-10)
- Length penalty: penaliza sequencias muito curtas ou longas
- No repeat ngram: evita repeticoes indesejadas
A Trilion configura estrategias de decodificacao otimas para cada caso de uso, usando beam search quando precisao e crucial (traducao, codigo) e amostragem quando criatividade e desejada.
