Contrastive Learning
Categoria
Fundamentos de IA
Contrastive Learning e uma tecnica de aprendizado que ensina modelos a aproximar representacoes de exemplos similares e distanciar representacoes de exemplos diferentes. E base de modelos como CLIP e SimCLR.
Categoria
Fundamentos de IA
Compartilhar
O que e Contrastive Learning?
Contrastive Learning (Aprendizado Contrastivo) e uma abordagem de self-supervised learning que treina modelos a criar representacoes onde exemplos similares ficam proximos e exemplos diferentes ficam distantes no espaco de embeddings.
Como Funciona
- Cria pares positivos (exemplos similares ou aumentacoes do mesmo dado)
- Cria pares negativos (exemplos diferentes)
- Treina o modelo para maximizar a similaridade entre positivos e minimizar entre negativos
Modelos Notaveis
- SimCLR: contrastive learning para imagens
- CLIP: alinha representacoes de imagens e texto
- MoCo: momentum contrast para eficiencia
- BYOL: aprende sem pares negativos
Aplicacoes
Busca por similaridade, retrieval de imagens, representacoes multimodais e aprendizado de embeddings de qualidade. Na Trilion, contrastive learning e reconhecido como uma das tecnicas mais promissoras para criar representacoes ricas e uteis a partir de dados nao-rotulados.
