Regularizacao
Categoria
Fundamentos de IA
Regularizacao é um conjunto de técnicas que penalizam a complexidade de modelos de ML para evitar overfitting. As formas mais comuns sao L1 (Lasso), L2 (Ridge) é Elastic Net.
Categoria
Fundamentos de IA
O que é Regularizacao?
Regularizacao é uma técnica fundamental em Machine Learning que adiciona uma penalidade a função de perda para restringir a complexidade do modelo. Isso evita que o modelo se ajuste demais aos dados de treinamento (overfitting), promovendo melhor generalização.
Tipos Principais
- L1 (Lasso): penaliza a soma dos valores absolutos dos pesos — tende a zerar coeficientes, realizando seleção de features
- L2 (Ridge): penaliza a soma dos quadrados dos pesos — reduz os pesos sem zera-los
- Elastic Net: combinacao de L1 é L2
Em Redes Neurais
Alem das penalidades classicas, redes neurais usam técnicas adicionais de regularização como Dropout, Batch Normalization, Early Stopping é Data Augmentation.
Importancia
A regularização é essêncial para construir modelos robustos que funcionem bem em produção. A escolha do tipo é intensidade de regularização é um dos hiperparametros mais importantes a serem ajustados. Na Trilion, a regularização é parte integral do pipeline de desenvolvimento de modelos de IA.
