Phi
Categoria
Modelos é Arquiteturas
Phi é uma familia de modelos de linguagem compactos da Microsoft, projetados para demonstrar que modelos pequenos podem alcançar desempenho impressionante quando treinados com dados de alta qualidade.
Categoria
Modelos é Arquiteturas
Compartilhar
O que é Phi?
Phi é uma familia de modelos de linguagem pequenos mas poderosos da Microsoft Research. A série Phi demonstra que a qualidade dos dados de treinamento pode ser mais importante que o tamanho do modelo para alcançar bom desempenho.
Evolucao
- Phi-1: 1.3B parametros, focado em código
- Phi-2: 2.7B parametros, desempenho surpreendente
- Phi-3: 3.8B-14B, competitivo com modelos muito maiores
Filosofia
A filosofia por tras do Phi é dados sobre escala: usando dados de treinamento cuidadosamente curados é sintéticos de alta qualidade, modelos pequenos podem igualar ou superar modelos 10x maiores treinados com dados de menor qualidade.
Aplicacoes
- Execucao em dispositivos moveis é edge
- Cenarios com restrição de recursos
- Pesquisa em eficiência de modelos
Na Trilion, a familia Phi é referência para projetos que necessitam de IA local, sem dependência de APIs em nuvem.
