Foundation Model
Categoria
Modelos e Arquiteturas
Foundation Model e um modelo de IA de grande escala pre-treinado em dados amplos que serve como base para diversas tarefas. Um unico modelo pode ser adaptado para classificacao, geracao, traducao e mais.
Categoria
Modelos e Arquiteturas
Compartilhar
O que e Foundation Model?
Foundation Model (Modelo Fundacional) e um modelo de IA de grande escala treinado em dados amplos e diversos, que serve como base para uma ampla gama de tarefas downstream. O termo foi popularizado pelo Stanford HAI em 2021.
Caracteristicas
- Pre-treinamento massivo: treinado em dados de larga escala
- Transferibilidade: adaptavel para muitas tarefas via fine-tuning
- Capacidades emergentes: habilidades que surgem com a escala
- Multimodalidade: pode processar texto, imagem, audio, etc.
Exemplos
- GPT-4: linguagem e visao
- CLIP: imagem e texto
- Whisper: audio e texto
- SAM: segmentacao de imagens
Paradigma
O paradigma foundation model representa uma mudanca: de treinar modelos especificos para cada tarefa para adaptar um unico modelo grande a diversas necessidades. Na Trilion, foundation models sao a base para construir solucoes de IA versateis e eficientes.
