Self-Critique
Categoria
Termos Tecnicos Avancados
Self-Critique e a capacidade de um LLM avaliar e corrigir suas proprias respostas identificando erros factuais, logicos ou de raciocinio. Usado em pipelines de IA para melhorar qualidade sem feedback humano, complementando tecnicas como reflection e constitutional AI.
Categoria
Termos Tecnicos Avancados
Compartilhar
O que e Self-Critique
Self-Critique e a habilidade de modelos de linguagem de avaliar criticamente suas proprias respostas, identificando e corrigindo erros, inconsistencias e pontos fracos sem necessidade de feedback externo.
Tecnicas de self-critique:
- Verificacao factual: modelo checa se afirmacoes sao consistentes
- Revisao logica: verifica coerencia do raciocinio
- Checagem de formato: valida se atende requisitos do prompt
- Avaliacao de completude: verifica se todos os pontos foram cobertos
Integracoes em pipelines:
- Generate-Critique-Refine: ciclo iterativo de melhoria
- Constitutional AI: critica baseada em principios explicitos
- Judge models: modelo separado avalia qualidade
- Debate: dois modelos argumentam e refinam respostas
A Trilion incorpora mecanismos de self-critique em solucoes de IA para garantir que respostas geradas para clientes passem por validacao automatica antes de serem apresentadas ao usuario final.
