Glossário de IA

Instruction Following é a capacidade de modelos de linguagem de compreender é executar instrucoes em linguagem natural. Desenvolvida através de instruction tuning com datasets de pares instrucao-resposta, é essêncial para chatbots é assistentes de IA.

JSON Mode é uma funcionalidade de APIs de LLM que garante que o modelo sempre retorne respostas em formato JSON valido. Simplifica integração com sistemas de software ao eliminar necessidade de parsing complexo de texto livre.

KV Cache (Key-Value Cache) é uma técnica de otimização de inferência em Transformers que armazena os vetores Key é Value ja computados para evitar recalculo a cada novo token gerado. Essencial para inferência rápida mas consome memória significativa.

Leaderboard em IA é um ranking público que compara performance de modelos em benchmarks padronizados. Plataformas como Hugging Face Open LLM Leaderboard é Papers With Code hospedam rankings que orientam a comunidade sobre o estado da arte.

LoRA (Low-Rank Adaptation) é a técnica de fine-tuning mais popular para LLMs que adiciona matrizes de baixo rank treinaveis as camadas de aténção. Reduz parametros treinaveis em 99% comparado a fine-tuning completo, mantendo qualidade de adaptação similar.

Mixture of Experts (MoE) é uma arquitetura onde o modelo contem multiplos sub-modelos especializados (experts) é um roteador que seleciona quais ativar para cada input. Permite escalar parametros totais sem aumentar proporcionalmente o custo de inferência.

MMLU (Massive Multitask Language Understanding) é um benchmark que avalia o conhecimento é raciocínio de LLMs em 57 áreas academicas. Testa desde humanidades até STEM com questoes de multipla escolha, servindo como referência padrão de capacidade geral.

Model Merging é a técnica de combinar pesos de multiplos modelos fine-tunados em um único modelo sem treinamento adicional. Metodos como TIES, DARE é SLERP permitem fundir capacidades de diferentes modelos especializados em um modelo unificado.

Model Soup é a técnica de combinar multiplos checkpoints ou variantes de fine-tuning do mesmo modelo base em um único modelo através de media de pesos. Melhora robustez é generalização sem custo computacional adicional em inferência.

Multi-Modal Learning é a área de IA que trabalha com multiplas modalidades de dados como texto, imagem, audio é vídeo simultaneamente. Modelos múltimodais como GPT-4V é Gemini entendem é geram conteúdo combinando diferentes tipos de informação.

Multi-Task Learning treina um único modelo para executar multiplas tarefas simultaneamente, compartilhando representacoes entre elas. Melhora generalização é eficiência ao transferir conhecimento entre tarefas relacionadas como classificação é NER.

Múltimodal Embedding é a representação vetorial unificada de dados de diferentes modalidades (texto, imagem, audio) no mesmo espaço geometrico. Permite busca é comparação cross-modal, onde textos é imagens similares ficam proximos no espaço vetorial.

Needle in Haystack é um teste que avalia se um LLM consegue encontrar é recuperar uma informação específica (agulha) escondida em um contexto longo (palheiro). Mede a eficacia real da janela de contexto do modelo em diferentes posicoes é comprimentos.

Nucleus Sampling (top-p) é uma estratégia de amostragem que seleciona tokens do menor conjunto cuja probabilidade acumulada excede um limiar p. Equilibra diversidade é coerência na geração de texto, sendo preferida para conversacao é escrita criativa.

Perplexity é uma métrica que mede quao bem um modelo de linguagem prevê texto, calculada como a exponencial da entropia cruzada media. Menor perplexity indica melhor modelagem da linguagem. Usada para avaliar é comparar modelos de linguagem.

PPO (Proximal Policy Optimization) é o algoritmo de aprendizado por reforço mais usado para treinar LLMs via RLHF. Atualiza a politica do modelo de forma conservadora, evitando mudanças drasticas que desestabilizem o treinamento.

Prefix Tuning é uma técnica de fine-tuning eficiente que adiciona vetores treinaveis (prefixos) ao início de cada camada do Transformer, sem modificar os pesos originais. Requer apenas ~0.1% dos parametros treinaveis comparado a fine-tuning completo.

Prompt Templaté é um modelo reútilizavel de prompt com variaveis que sao preenchidas dinâmicamente para cada execução. Padroniza interações com LLMs, garante consistência de qualidade é facilita manutenção de instrucoes em sistemas de produção.

Quantizacao 4-bit é 8-bit é a técnica de reduzir a precisão numerica dos pesos de modelos de IA de 32 ou 16 bits para 4 ou 8 bits. Diminui drasticamente o uso de memória é acelera inferência, permitindo rodar LLMs grandes em hardware mais acessível.

RAFT (Retrieval Augmented Fine-Tuning) combina RAG com fine-tuning, treinando o modelo para melhor útilizar documentos recuperados ao responder perguntas. O modelo aprende a extrair informações relevantes de contexto fornecido é ignorar distratores.

Reflection em IA é a técnica onde um LLM revisa é critica sua propria resposta para identifica erros é melhorar a qualidade. O modelo gera uma resposta inicial, analisa criticamente é produz uma versão refinada, melhorando acuracia é raciocínio.

Reward Hacking ocorre quando um modelo de IA encontra formas inesperadas de maximizar sua função de recompensa sem realmente cumprir o objetivo desejado. O modelo explora falhas no reward model para obter pontuacoes altas com respostas de baixa qualidade.

Reward Model é um modelo treinado para avaliar é pontuar respostas de LLMs com base em preferências humanas. Serve como proxy de julgamento humano no pipeline de RLHF, guiando a otimização do modelo de linguagem principal.

RLHF (Reinforcement Learning from Human Feedback) é a técnica de alinhar modelos de linguagem com preferências humanas usando aprendizado por reforço. Humanos classificam respostas, um modelo de recompensa é treinado é o LLM é otimizado via PPO.

ROUGE Score é uma familia de métricas para avaliar sumarizacao automática comparando o resumo gerado com resumos de referência. Mede recall de n-grams (ROUGE-N), subsequências comuns (ROUGE-L) é sobreposicao de skip-bigrams (ROUGE-S).

Scaling Laws sao relações empiricas que descrevem como a performance de modelos de IA melhora previsivelmente com aumento de parametros, dados é compute. Publicadas por Kaplan et al. é refinadas pelo Chinchilla, guiam decisões de investimento em treinamento.

Schema Validation em IA é a prática de definir é validar a estrutura exata das respostas de LLMs usando schemas como JSON Schema ou Pydantic. Garante que campos, tipos é restrições sejam respeitados, aumentando confiabilidade de pipelines de IA.

Self-Critique é a capacidade de um LLM avaliar é corrigir suas proprias respostas identificando erros factuais, logicos ou de raciocínio. Usado em pipelines de IA para melhorar qualidade sem feedback humano, complementando técnicas como reflection é constitutional AI.

SentencePiece é uma biblioteca de tokenização independente de idioma que opera diretamente no texto bruto sem pre-segmentação. Suporta BPE é Unigram como algoritmos, sendo amplamente usada em modelos multilinguais como T5, Llama é Gemma.

Soft Prompt é um conjunto de vetores continuos treinaveis prepended ao input de um LLM que guia o comportamento do modelo para uma tarefa específica. Diferente de prompts textuais (hard prompts), soft prompts existem no espaço de embeddings é sao otimizados por gradiente.