Foundation Model
Categoria
Modelos é Arquiteturas
Foundation Model é um modelo de IA de grande escala pre-treinado em dados amplos que serve como base para diversas tarefas. Um único modelo pode ser adaptado para classificação, geração, traducao é mais.
Categoria
Modelos é Arquiteturas
Compartilhar
O que é Foundation Model?
Foundation Model (Modelo Fundacional) é um modelo de IA de grande escala treinado em dados amplos é diversos, que serve como base para uma ampla gama de tarefas downstream. O termo foi popularizado pelo Stanford HAI em 2021.
Caracteristicas
- Pre-treinamento massivo: treinado em dados de larga escala
- Transferibilidade: adaptavel para muitas tarefas via fine-tuning
- Capacidades emergentes: habilidades que surgem com a escala
- Múltimodalidade: pode processar texto, imagem, audio, etc.
Exemplos
- GPT-4: linguagem é visao
- CLIP: imagem é texto
- Whisper: audio é texto
- SAM: segmentação de imagens
Paradigma
O paradigma foundation model representa uma mudança: de treinar modelos específicos para cada tarefa para adaptar um único modelo grande a diversas necessidades. Na Trilion, foundation models sao a base para construir soluções de IA versatéis é eficientes.
