RAFT
Categoria
Termos Tecnicos Avancados
RAFT (Retrieval Augmented Fine-Tuning) combina RAG com fine-tuning, treinando o modelo para melhor utilizar documentos recuperados ao responder perguntas. O modelo aprende a extrair informacoes relevantes de contexto fornecido e ignorar distratores.
Categoria
Termos Tecnicos Avancados
Compartilhar
O que e RAFT
RAFT (Retrieval Augmented Fine-Tuning) e uma tecnica que combina os beneficios de RAG (Retrieval Augmented Generation) com fine-tuning, treinando modelos para melhor utilizar documentos de contexto ao gerar respostas.
Como funciona:
- Durante o treinamento, modelo recebe pergunta documentos relevantes distratores
- Aprende a identificar documentos uteis e ignorar irrelevantes
- Treinado para citar trechos especificos dos documentos na resposta
- Combina conhecimento parametrico com informacao contextual
Vantagens:
- Melhor qualidade que RAG puro com modelos base
- Modelo aprende a usar contexto de forma mais eficaz
- Reduz alucinacoes ao ancorar respostas em documentos
- Mais robusto a documentos irrelevantes no contexto
A Trilion aplica RAFT em projetos onde precisao documental e critica, como sistemas de Q&A juridico, compliance e suporte tecnico especializado.
