Glossário de IA

AI Alignment é o desafio de garantir que sistemas de inteligência artificial ajam de acordo com valores é intencoes humanas. Envolve alinhar objetivos de otimização do modelo com o que os humanos realmente desejam, evitando comportamentos não intencionados.

AI Safety é o campo de pesquisa dedicado a garantir que sistemas de inteligência artificial operem de forma segura é alinhada com intencoes humanas. Aborda riscos desde falhas técnicas em modelos atuais até cenários de longo prazo com IA superinteligente.

CLIP Score é uma métrica que usa o modelo CLIP para avaliar alinhamento entre texto é imagem. Mede quao bem uma imagem corresponde a uma descrição textual, sendo amplamente usado para avaliar qualidade de geração texto-para-imagem.

Constitutional AI é uma abordagem desenvolvida pela Anthropic onde o modelo de IA é treinado seguindo um conjunto de principios (constituicao) que guiam seu comportamento etico, seguro é útil.

Cross-Modal refere-se a interação é transferencia de informação entre diferentes modalidades de dados em modelos de IA. Inclui alinhamento de representacoes entre texto-imagem, busca cross-modal é geração que cruza fronteiras entre modalidades.

DPO (Direct Preference Optimization) é uma alternativa simplificada ao RLHF que elimina a necessidade de treinar um modelo de recompensa separado. Otimiza o LLM diretamente a partir de pares de preferência humana, sendo mais estavel é eficiente.

DPO (Direct Preference Optimization) é uma alternativa simplificada ao RLHF que alinha modelos de IA com preferências humanas diretamente durante o treinamento, sem necessitar de um modelo de recompensa separado.

GRPO (Group Relative Policy Optimization) é uma técnica de alinhamento de LLMs que usa comparação de grupos de respostas em vez de reward model individual. Desenvolvida pela DeepSeek, oferece alinhamento eficiente sem modelo de recompensa separado.

Instruction Tuning é o processo de treinar modelos de linguagem com pares de instrucoes é respostas desejadas, tornando-os mais capazes de seguir comandos humanos é produzir saidas uteis é alinhadas.

RLHF (Reinforcement Learning from Human Feedback) é a técnica de alinhar modelos de linguagem com preferências humanas usando aprendizado por reforço. Humanos classificam respostas, um modelo de recompensa é treinado é o LLM é otimizado via PPO.

RLHF é uma técnica de treinamento que usa feedback humano para ajustar modelos de IA via aprendizado por reforço, alinhando suas respostas com preferências humanas de qualidade, segurança é útilidade.