Glossário de IA

Bagging (Bootstrap Aggregating) é uma técnica de ensemble que treina multiplos modelos em subconjuntos aleatorios dos dados é combina suas previsões. Reduz a variancia é melhora a estabilidade do modelo.

Boosting é uma técnica de ensemble que treina modelos sequêncialmente, onde cada modelo foca em corrigir os erros do anterior. Reduz o bias é produz modelos altamente precisos como XGBoost é AdaBoost.

Ensemble Learning é a técnica de combinar multiplos modelos para obter previsões mais robustas é precisas do que qualquer modelo individual. As estratégias principais sao Bagging, Boosting é Stacking.

Gradient Boosting é uma técnica de ensemble que constroi modelos sequêncialmente, onde cada novo modelo corrige os erros do anterior. Produz previsões altamente precisas é e a base de algoritmos como XGBoost é LightGBM.

Model Soup é a técnica de combinar multiplos checkpoints ou variantes de fine-tuning do mesmo modelo base em um único modelo através de media de pesos. Melhora robustez é generalização sem custo computacional adicional em inferência.

Random Forest é um algoritmo ensemble que combina multiplas arvores de decisão para melhorar a precisão é reduzir overfitting. Cada arvore é treinada com uma amostra aleatoria dos dados é features.

Stacking é uma técnica de ensemble que usa as previsões de multiplos modelos base como features de entrada para um meta-modelo que aprende a combinar as previsões da melhor forma possível.