Context Window
Categoria
IA Generativa
Context Window e o limite maximo de tokens que um modelo de IA pode processar de uma vez, incluindo tanto a entrada (prompt) quanto a saida gerada, definindo a quantidade de informacao acessivel em cada interacao.
Categoria
IA Generativa
Compartilhar
O que e Context Window?
Context Window (janela de contexto) e a quantidade maxima de tokens que um modelo de linguagem pode receber e processar em uma unica chamada, limitando o volume de informacao disponivel para a geracao de resposta.
Evolucao dos limites:
- GPT-3: 4K tokens
- GPT-4: 8K a 128K tokens
- Claude: ate 200K tokens
- Gemini: ate 1M tokens
Implicacoes Praticas
- Mais contexto permite analise de documentos maiores
- Historico de conversa mais longo
- Menos necessidade de resumir informacoes
- RAG ajuda quando dados excedem a janela
A Trilion escolhe modelos com janelas de contexto adequadas para cada projeto, otimizando entre capacidade de processamento e custo operacional.
