QLoRA
Categoria
Modelos e Arquiteturas
QLoRA combina quantizacao de 4 bits com LoRA para permitir fine-tuning de modelos com bilhoes de parametros em uma unica GPU consumer. Reduz requisitos de memoria mantendo qualidade.
Categoria
Modelos e Arquiteturas
Compartilhar
O que e QLoRA?
QLoRA (Quantized Low-Rank Adaptation) e uma tecnica que combina quantizacao de 4 bits com LoRA para permitir o fine-tuning de modelos de linguagem massivos em hardware acessivel. Permite treinar modelos de 65B parametros em uma unica GPU de 48GB.
Inovacoes
- NF4 (Normal Float 4-bit): formato de quantizacao otimizado
- Double Quantization: quantiza tambem as constantes de quantizacao
- Paged Optimizers: gerenciamento inteligente de memoria
Impacto
QLoRA democratizou o fine-tuning de LLMs, permitindo que pesquisadores e empresas com recursos limitados customizem modelos de ponta. Antes do QLoRA, fine-tuning de modelos grandes exigia clusters de GPUs caras.
Resultados
Modelos treinados com QLoRA alcancam 99% da qualidade do fine-tuning completo com uma fracao do custo. Na Trilion, QLoRA e a abordagem preferida para fine-tuning quando recursos computacionais sao limitados.
