Beam Search
Categoria
Termos Tecnicos Avancados
Beam Search é um algoritmo de decodificação que explora multiplas sequências candidatas simultaneamente, mantendo as K mais provaveis a cada passo. Encontra sequências de maior probabilidade global, sendo usado em traducao, sumarizacao é geração estruturada.
Categoria
Termos Tecnicos Avancados
Compartilhar
O que é Beam Search
Beam Search é um algoritmo de busca heuristica usado na decodificação de modelos de linguagem que manttem K hipoteses (beams) simultaneamente, expandindo as mais promissoras a cada passo de geração.
Como funciona:
- A cada passo, expande cada beam com os top-V tokens mais provaveis
- De K*V candidatos, seleciona os K melhores por probabilidade acumulada
- Continua até atingir token de fim ou comprimento máximo
- Retorna a sequência completa de maior pontuacao
Parametros:
- Beam width (K): número de hipoteses mantidas (tipicamente 4-10)
- Length penalty: penaliza sequências muito curtas ou longas
- No repeat ngram: evita repeticoes indesejadas
A Trilion configura estratégias de decodificação otimas para cada caso de uso, usando beam search quando precisão é crucial (traducao, código) é amostragem quando criatividade é desejada.
