Phi
Categoria
Modelos e Arquiteturas
Phi e uma familia de modelos de linguagem compactos da Microsoft, projetados para demonstrar que modelos pequenos podem alcançar desempenho impressionante quando treinados com dados de alta qualidade.
Categoria
Modelos e Arquiteturas
O que e Phi?
Phi e uma familia de modelos de linguagem pequenos mas poderosos da Microsoft Research. A serie Phi demonstra que a qualidade dos dados de treinamento pode ser mais importante que o tamanho do modelo para alcançar bom desempenho.
Evolucao
- Phi-1: 1.3B parametros, focado em codigo
- Phi-2: 2.7B parametros, desempenho surpreendente
- Phi-3: 3.8B-14B, competitivo com modelos muito maiores
Filosofia
A filosofia por tras do Phi e dados sobre escala: usando dados de treinamento cuidadosamente curados e sinteticos de alta qualidade, modelos pequenos podem igualar ou superar modelos 10x maiores treinados com dados de menor qualidade.
Aplicacoes
- Execucao em dispositivos moveis e edge
- Cenarios com restricao de recursos
- Pesquisa em eficiencia de modelos
Na Trilion, a familia Phi e referencia para projetos que necessitam de IA local, sem dependencia de APIs em nuvem.
