Glossário de IA

Context Window e o limite maximo de tokens que um modelo de IA pode processar de uma vez, incluindo tanto a entrada (prompt) quanto a saida gerada, definindo a quantidade de informacao acessivel em cada interacao.

Context Window Scaling refere-se as tecnicas para expandir a janela de contexto de LLMs alem do tamanho de treinamento original. Metodos como RoPE scaling, YaRN e ALiBi permitem modelos processarem documentos com centenas de milhares de tokens.

Dimension, na modelagem dimensional, e um atributo qualitativo que fornece contexto para metricas numericas. Exemplos incluem data, regiao, categoria de produto e segmento de cliente. As dimensoes permitem fatiar e agrupar dados para analise.

Few-Shot Prompting e uma tecnica onde se fornece alguns exemplos de entrada e saida desejada no prompt, permitindo que o modelo de IA aprenda o padrao esperado e reproduza em novas situacoes sem treinamento adicional.

In-Context Learning (ICL) e a capacidade de modelos de linguagem de aprender e adaptar seu comportamento a partir de instrucoes e exemplos fornecidos diretamente no prompt, sem alterar seus parametros internos.

MCP (Model Context Protocol) e um protocolo aberto criado pela Anthropic para padronizar a conexao entre modelos de IA e ferramentas externas, funcionando como um conector universal para agentes de IA.

Memory em agentes de IA e o mecanismo que permite armazenar e recuperar informacoes de interacoes anteriores, possibilitando continuidade, aprendizado e personalizacao ao longo do tempo.

Needle in Haystack e um teste que avalia se um LLM consegue encontrar e recuperar uma informacao especifica (agulha) escondida em um contexto longo (palheiro). Mede a eficacia real da janela de contexto do modelo em diferentes posicoes e comprimentos.

Short-Term Memory e a memoria de curto prazo de agentes de IA que mantem o contexto da conversa atual, incluindo mensagens recentes, decisoes tomadas e informacoes temporarias relevantes para a sessao.

Sparse Attention e uma variante do mecanismo de atencao em Transformers que calcula atencao apenas para subconjuntos de tokens em vez de todos. Reduz complexidade de O(n2) para O(n log n) ou O(n), permitindo processar sequencias muito longas.