Glossário de IA

Audio-Language Model é um modelo múltimodal que processa audio é texto simultaneamente, capaz de transcrever fala, entender conteúdo de audio, gerar fala é responder perguntas sobre sons. Inclui modelos como Whisper, AudioPaLM é GPT-4o com audio.

GPT (Generative Pre-trained Transformer) é uma familia de modelos de linguagem autoregressivos da OpenAI que geram texto prevendo o proximo token. Revolucionou a geração de texto é assistentes de IA.

Hard Prompt é o texto em linguagem natural fornecido como instrucao a um LLM para guiar sua geração. Inclui system prompts, instrucoes, exemplos é restrições escritos por humanos, sendo a forma mais comum é acessível de controlar comportamento de modelos.

LLM (Large Language Model) é um modelo de linguagem com bilhoes de parametros, treinado em vastos corpus de texto. Capaz de compreender é gerar linguagem humana com alta qualidade, incluindo GPT, Claude é Llama.

NLP (Natural Language Processing) é a área da IA que permite a maquinas compreender, interpretar é gerar linguagem humana. Engloba tarefas como análise de sentimento, traducao automática, chatbots é extracao de informações de textos.

Perplexity é uma métrica que mede quao bem um modelo de linguagem prevê texto, calculada como a exponencial da entropia cruzada media. Menor perplexity indica melhor modelagem da linguagem. Usada para avaliar é comparar modelos de linguagem.

Tokenizacao é o processo de dividir texto em unidades menores (tokens) que servem como entrada para modelos de linguagem. Pode operar em nível de palavra, subpalavra (BPE, SentencePiece) ou caractere.