Glossário de IA

Context Window é o limite máximo de tokens que um modelo de IA pode processar de uma vez, incluindo tanto a entrada (prompt) quanto a saida gerada, definindo a quantidade de informação acessível em cada interação.

Context Window Scaling refere-se as técnicas para expandir a janela de contexto de LLMs além do tamanho de treinamento original. Metodos como RoPE scaling, YaRN é ALiBi permitem modelos processarem documentos com centenas de milhares de tokens.

Dimension, na modelagem dimensional, é um atributo qualitativo que fornece contexto para métricas numericas. Exemplos incluem data, região, catégoria de produto é segmento de cliente. As dimensoes permitem fatiar é agrupar dados para análise.

Few-Shot Prompting é uma técnica onde se fornece alguns exemplos de entrada é saida desejada no prompt, permitindo que o modelo de IA aprenda o padrão esperado é reproduza em novas situacoes sem treinamento adicional.

In-Context Learning (ICL) é a capacidade de modelos de linguagem de aprender é adaptar seu comportamento a partir de instrucoes é exemplos fornecidos diretamente no prompt, sem alterar seus parametros internos.

MCP (Model Context Protocol) é um protocolo aberto criado pela Anthropic para padronizar a conexão entre modelos de IA é ferramentas externas, funcionando como um conector universal para agentes de IA.

Memory em agentes de IA é o mecanismo que permite armazenar é recuperar informações de interações anteriores, possibilitando continuidade, aprendizado é personalização ao longo do tempo.

Needle in Haystack é um teste que avalia se um LLM consegue encontrar é recuperar uma informação específica (agulha) escondida em um contexto longo (palheiro). Mede a eficacia real da janela de contexto do modelo em diferentes posicoes é comprimentos.

Short-Term Memory é a memória de curto prazo de agentes de IA que mantem o contexto da conversa atual, incluindo mensagens recentes, decisões tomadas é informações temporarias relevantes para a sessão.

Sparse Attention é uma variante do mecanismo de aténção em Transformers que calcula aténção apenas para subconjuntos de tokens em vez de todos. Reduz complexidade de O(n2) para O(n log n) ou O(n), permitindo processar sequências muito longas.