Glossário de IA

Audio-Language Model e um modelo multimodal que processa audio e texto simultaneamente, capaz de transcrever fala, entender conteudo de audio, gerar fala e responder perguntas sobre sons. Inclui modelos como Whisper, AudioPaLM e GPT-4o com audio.

GPT (Generative Pre-trained Transformer) e uma familia de modelos de linguagem autoregressivos da OpenAI que geram texto prevendo o proximo token. Revolucionou a geracao de texto e assistentes de IA.

Hard Prompt e o texto em linguagem natural fornecido como instrucao a um LLM para guiar sua geracao. Inclui system prompts, instrucoes, exemplos e restricoes escritos por humanos, sendo a forma mais comum e acessivel de controlar comportamento de modelos.

LLM (Large Language Model) e um modelo de linguagem com bilhoes de parametros, treinado em vastos corpus de texto. Capaz de compreender e gerar linguagem humana com alta qualidade, incluindo GPT, Claude e Llama.

NLP (Natural Language Processing) e a area da IA que permite a maquinas compreender, interpretar e gerar linguagem humana. Engloba tarefas como analise de sentimento, traducao automatica, chatbots e extracao de informacoes de textos.

Perplexity e uma metrica que mede quao bem um modelo de linguagem prevê texto, calculada como a exponencial da entropia cruzada media. Menor perplexity indica melhor modelagem da linguagem. Usada para avaliar e comparar modelos de linguagem.

Tokenizacao e o processo de dividir texto em unidades menores (tokens) que servem como entrada para modelos de linguagem. Pode operar em nivel de palavra, subpalavra (BPE, SentencePiece) ou caractere.