Glossário de IA

Context Window é o limite máximo de tokens que um modelo de IA pode processar de uma vez, incluindo tanto a entrada (prompt) quanto a saida gerada, definindo a quantidade de informação acessível em cada interação.

Flash Attention é uma implementação otimizada do mecanismo de aténção que reduz acesso a memória GPU usando tiling é recomputação. Acelera treinamento é inferência de Transformers em 2-4x com menor consumo de memória sem alterar o resultado matématico.

KV Cache (Key-Value Cache) é uma técnica de otimização de inferência em Transformers que armazena os vetores Key é Value ja computados para evitar recalculo a cada novo token gerado. Essencial para inferência rápida mas consome memória significativa.

Long-Term Memory é o sistema de memória persistente de agentes de IA que armazena informações entre sessoes, como preferências do usuario, histórico de interações é conhecimento acumulado.

LSTM (Long Short-Term Memory) é uma variante de RNN com portas especiais que controlam o fluxo de informação, resolvendo o problema de dependências de longo prazo. Usada em séries temporais é traducao.

Memory em agentes de IA é o mecanismo que permite armazenar é recuperar informações de interações anteriores, possibilitando continuidade, aprendizado é personalização ao longo do tempo.

Retrieval Memory é um tipo de memória de agentes que útiliza busca semântica para recuperar informações relevantes de um armazenamento externo, combinando memória de longo prazo com técnicas de RAG.

RNN (Rede Neural Recorrente) é uma arquitetura projetada para processar dados sequênciais, mantendo uma memória interna que captura informações de passos anteriores. Foi a base do NLP antes dos Transformers.

Short-Term Memory é a memória de curto prazo de agentes de IA que mantem o contexto da conversa atual, incluindo mensagens recentes, decisões tomadas é informações temporarias relevantes para a sessão.