Glossário de IA

Adapter Tuning insere pequenos modulos treinaveis (adapters) entre as camadas de um Transformer pre-treinado. Os adapters sao treinados para tarefas específicas enquanto o modelo base permanece congelado, permitindo customização eficiente é modular.

Arena ELO é o sistema de classificação do Chatbot Arena que usa o rating ELO (originario do xadrez) para ranquear modelos de linguagem com base em preferências humanas. Usuarios comparam respostas anonimas é os votos geram rankings continuamente atualizados.

Async Inference é o modelo de inferência assincrona onde requisicoes sao enviadas é processadas em background, com resultados recuperados posteriormente. Ideal para tarefas que não precisam de resposta imediata, como análise de documentos é processamento em massa.

Audio-Language Model é um modelo múltimodal que processa audio é texto simultaneamente, capaz de transcrever fala, entender conteúdo de audio, gerar fala é responder perguntas sobre sons. Inclui modelos como Whisper, AudioPaLM é GPT-4o com audio.

Auto-Evaluation é o uso de modelos de IA para avaliar outputs de outros modelos de IA, escalando o processo de avaliação sem necessidade de avaliadores humanos. LLMs como GPT-4 é Claude servem como juizes automáticos com alta correlação com preferências humanas.

Batch Processing em IA é o processamento de multiplas requisicoes de inferência agrupadas em lotes em vez de individualmente. Maximiza uso de GPU, reduz custo por inferência é aumenta throughput total, ideal para processamento de grandes volumes offline.

Beam Search é um algoritmo de decodificação que explora multiplas sequências candidatas simultaneamente, mantendo as K mais provaveis a cada passo. Encontra sequências de maior probabilidade global, sendo usado em traducao, sumarizacao é geração estruturada.

BERTScore é uma métrica de avaliação semântica que usa embeddings contextuais do BERT para comparar textos gerados com referências. Captura similaridade de significado além de sobreposicao lexical, oferecendo melhor correlação com julgamento humano.

BLEU Score é uma métrica automática para avaliar qualidade de traducao automática é geração de texto, comparando n-grams do texto gerado com referências humanas. Amplamente usada apesar de limitacoes conhecidas em capturar semântica é fluencia.

Catastrophic Forgetting é o fenômeno onde uma rede neural perde conhecimento previamente aprendido ao ser treinada em novos dados ou tarefas. Em LLMs, fine-tuning em um domínio específico pode degradar capacidades gerais do modelo original.

Chain-of-Thought (CoT) é uma técnica de prompting que faz LLMs raciocinarem passo a passo antes de dar a resposta final. Melhora dramaticamente performance em tarefas de raciocínio matématico, logico é multi-step ao explicitar o processo de pensamento.

Chatbot Arena é uma plataforma da LMSYS que permite comparar modelos de linguagem em batalhas anonimas lado a lado. Usuarios avaliam respostas sem saber quais modelos estao competindo, gerando o ranking mais confiavel de LLMs da indústria.

Chinchilla Scaling refere-se a lei de escala otima proposta pelo artigo Chinchilla (DeepMind) que demonstrou que modelos devem ser treinados com muito mais dados do que a prática anterior. Para cada dobro de parametros, dados também devem dobrar.

CLIP Score é uma métrica que usa o modelo CLIP para avaliar alinhamento entre texto é imagem. Mede quao bem uma imagem corresponde a uma descrição textual, sendo amplamente usado para avaliar qualidade de geração texto-para-imagem.

Context Window Scaling refere-se as técnicas para expandir a janela de contexto de LLMs além do tamanho de treinamento original. Metodos como RoPE scaling, YaRN é ALiBi permitem modelos processarem documentos com centenas de milhares de tokens.

Continual Learning (Aprendizado Continuo) é a capacidade de modelos de IA aprenderem continuamente com novos dados é tarefas sem esquecer conhecimento anterior. Fundamental para sistemas de IA que precisam se adaptar a mudanças no mundo real ao longo do tempo.

Cross-Modal refere-se a interação é transferencia de informação entre diferentes modalidades de dados em modelos de IA. Inclui alinhamento de representacoes entre texto-imagem, busca cross-modal é geração que cruza fronteiras entre modalidades.

DPO (Direct Preference Optimization) é uma alternativa simplificada ao RLHF que elimina a necessidade de treinar um modelo de recompensa separado. Otimiza o LLM diretamente a partir de pares de preferência humana, sendo mais estavel é eficiente.

Emergent Abilities sao capacidades que surgem espontaneamente em modelos de IA quando atingem determinada escala, sem terem sido explicitamente treinados para elas. Incluem raciocínio matématico, chain-of-thought é compreensao de tarefas complexas.

FID (Frechet Inception Distance) é uma métrica para avaliar qualidade de imagens geradas por IA, comparando a distribuição estatística das imagens geradas com imagens reais. Menor FID indica imagens mais realistas é diversas.

Flash Attention é uma implementação otimizada do mecanismo de aténção que reduz acesso a memória GPU usando tiling é recomputação. Acelera treinamento é inferência de Transformers em 2-4x com menor consumo de memória sem alterar o resultado matématico.

Goodhart Law aplicada a IA afirma que quando uma métrica se torna alvo de otimização, ela deixa de ser uma boa métrica. Em IA, modelos otimizados diretamente em métricas proxy como BLEU ou reward score podem produzir resultados que pontuam alto mas sao qualitativamente ruins.

Graph-of-Thought (GoT) generaliza Tree-of-Thought para uma estrutura de grafo onde pensamentos podem se conectar de formas não-hierarquicas. Permite combinar, refinar é cruzar ideias de diferentes ramos de raciocínio para resolver problemas complexos.

Greedy Decoding é a estratégia de geração mais simples onde o modelo sempre seleciona o token com maior probabilidade a cada passo. Rapido é deterministico, mas pode produzir texto repetitivo é perder sequências globalmente melhores.

GRPO (Group Relative Policy Optimization) é uma técnica de alinhamento de LLMs que usa comparação de grupos de respostas em vez de reward model individual. Desenvolvida pela DeepSeek, oferece alinhamento eficiente sem modelo de recompensa separado.

Hard Prompt é o texto em linguagem natural fornecido como instrucao a um LLM para guiar sua geração. Inclui system prompts, instrucoes, exemplos é restrições escritos por humanos, sendo a forma mais comum é acessível de controlar comportamento de modelos.

HellaSwag é um benchmark de compreensao de linguagem natural que testa a habilidade de modelos em completar cenários de forma plausivel. Usa exemplos gerados adversarialmente que sao faceis para humanos mas desafiadores para modelos de IA.

Human Evaluation é a avaliação de sistemas de IA por pessoas reais, considerada padrão-ouro de qualidade. Avaliadores humanos julgam respostas de LLMs em criterios como útilidade, veracidade, coerência é segurança, complementando métricas automáticas.

HumanEval é um benchmark que avalia a capacidade de modelos de IA em gerar código funcional a partir de descricoes em linguagem natural. Contem 164 problemas de programação Python com testes unitarios para verificação automática de corretude.

Inception Score (IS) avalia qualidade é diversidade de imagens geradas por IA usando a rede Inception. Score alto indica imagens que sao individualmente claras é reconheciveis (qualidade) enquanto o conjunto cobre variedade de classes (diversidade).