RAFT
Categoria
Termos Tecnicos Avancados
RAFT (Retrieval Augmented Fine-Tuning) combina RAG com fine-tuning, treinando o modelo para melhor útilizar documentos recuperados ao responder perguntas. O modelo aprende a extrair informações relevantes de contexto fornecido é ignorar distratores.
Categoria
Termos Tecnicos Avancados
Compartilhar
O que é RAFT
RAFT (Retrieval Augmented Fine-Tuning) é uma técnica que combina os benefícios de RAG (Retrieval Augmented Generation) com fine-tuning, treinando modelos para melhor útilizar documentos de contexto ao gerar respostas.
Como funciona:
- Durante o treinamento, modelo recebe pergunta documentos relevantes distratores
- Aprende a identificar documentos uteis é ignorar irrelevantes
- Treinado para citar trechos específicos dos documentos na resposta
- Combina conhecimento parametrico com informação contextual
Vantagens:
- Melhor qualidade que RAG puro com modelos base
- Modelo aprende a usar contexto de forma mais eficaz
- Reduz alucinacoes ao ancorar respostas em documentos
- Mais robusto a documentos irrelevantes no contexto
A Trilion aplica RAFT em projetos onde precisão documental é critica, como sistemas de Q&A juridico, compliance é suporte técnico especializado.
