Glossário de IA

Alucinacao de IA ocorre quando um modelo de linguagem gera informações falsas, inventadas ou inconsistentes com a realidade, apresentando-as como se fossem verdadeiras. E um dos principais desafios da IA generativa.

Chain-of-Thought (CoT) é uma técnica de prompting que incentiva modelos de IA a explicitar seu raciocínio passo a passo antes de chegar a uma conclusão, melhorando significativamente a precisão em tarefas complexas.

Chunking é o processo de dividir documentos grandes em segmentos menores (chunks) para processamento eficiente por modelos de IA, sendo uma etapa crucial na construção de sistemas RAG.

Code Generation é o processo automatizado de criar código fonte usando modelos de IA treinados em grandes repositorios de código, capaz de produzir soluções em multiplas linguagens é frameworks.

Constitutional AI é uma abordagem desenvolvida pela Anthropic onde o modelo de IA é treinado seguindo um conjunto de principios (constituicao) que guiam seu comportamento etico, seguro é útil.

Content Detection é o conjunto de técnicas é ferramentas usadas para identificar se um conteúdo (texto, imagem, audio ou vídeo) foi gerado por IA, ajudando a manter a autenticidade é combatér desinformação.

Context Window é o limite máximo de tokens que um modelo de IA pode processar de uma vez, incluindo tanto a entrada (prompt) quanto a saida gerada, definindo a quantidade de informação acessível em cada interação.

ControlNet é uma arquitetura que adiciona controles condicionais a modelos de difusao, permitindo guiar a geração de imagens com mapas de bordas, poses, profundidade é outros sinais estruturais.

Cosine Similarity é uma métrica matématica que mede o angulo entre dois vetores em espaço multidimensional, calculando a similaridade semântica entre textos, imagens ou outros dados representados como embeddings.

Deepfake é conteúdo de mídia sintética gerado por IA que substitui a aparencia ou voz de uma pessoa por outra de forma realista, levantando serias questoes eticas sobre desinformação é privacidade.

DPO (Direct Preference Optimization) é uma alternativa simplificada ao RLHF que alinha modelos de IA com preferências humanas diretamente durante o treinamento, sem necessitar de um modelo de recompensa separado.

Embedding é a representação numerica (vetor) de texto, imagens ou outros dados em um espaço multidimensional, onde itens semânticamente similares ficam proximos, possibilitando busca é comparação por significado.

Few-Shot Prompting é uma técnica onde se fornece alguns exemplos de entrada é saida desejada no prompt, permitindo que o modelo de IA aprenda o padrão esperado é reproduza em novas situacoes sem treinamento adicional.

Grounding é a técnica de ancorar respostas de IA em dados verificaveis é fontes confiaveis, garantindo que o conteúdo gerado seja factualmente correto é rastreavel, reduzindo alucinacoes.

Guardrails sao mecanismos de segurança implementados para controlar é limitar o comportamento de modelos de IA, prevenindo respostas inadequadas, inseguras ou fora do escopo definido.

Hallucination Mitigation engloba estratégias é técnicas para reduzir a ocorrência de alucinacoes em modelos de IA, como uso de RAG, grounding, verificação cruzada é ajustes de temperatura.

Image-to-Image é uma técnica de IA generativa que transforma uma imagem de entrada em outra imagem modificada, aplicando estilos, correcoes ou transformacoes guiadas por prompts textuais.

Img2Img é o fluxo de trabalho em modelos de difusao que usa uma imagem existente como ponto de partida para gerar novas imagens, controlando o nível de transformação através do parametro de força (strength).

In-Context Learning (ICL) é a capacidade de modelos de linguagem de aprender é adaptar seu comportamento a partir de instrucoes é exemplos fornecidos diretamente no prompt, sem alterar seus parametros internos.

Inpainting é uma técnica de IA que preenche ou substitui partes selecionadas de uma imagem de forma inteligente, mantendo coerência visual com o restante da imagem para edicao ou restauracao.

Instruction Tuning é o processo de treinar modelos de linguagem com pares de instrucoes é respostas desejadas, tornando-os mais capazes de seguir comandos humanos é produzir saidas uteis é alinhadas.

Jailbreak em IA é a tentativa de contornar as restrições de segurança é limites eticos de um modelo de linguagem através de prompts engenhosos que exploram falhas nas barreiras de proteção.

Outpainting é a técnica de IA que expande uma imagem além de suas bordas originais, gerando conteúdo novo é coerente que estende a cena, permitindo ampliar o enquadramento de qualquer imagem.

Prompt Engineering é a prática de projetar é otimizar instrucoes (prompts) enviadas a modelos de IA generativa para obter respostas mais precisas, relevantes é uteis. Envolve técnicas como estruturacao de contexto, exemplos é restrições.

Prompt Injection é um ataque onde instrucoes maliciosas sao inseridas no input do usuario para manipular o comportamento do modelo de IA, fazendo-o ignorar suas instrucoes originais ou executar acoes indesejadas.

RAG (Retrieval-Augmented Generation) é uma técnica que combina busca em bases de conhecimento externas com geração de texto por IA, permitindo respostas mais precisas é fundamentadas em dados atualizados.

Red Teaming em IA é a prática de testar modelos de forma adversarial, simulando ataques é tentativas de manipulação para identificar vulnerabilidades é melhorar a segurança antes do lançamento.

Reranking é a etapa de reordenacao de resultados de busca usando um modelo especializado que avalia a relevância de cada resultado em relação a consulta original, melhorando a precisão final.

RLHF é uma técnica de treinamento que usa feedback humano para ajustar modelos de IA via aprendizado por reforço, alinhando suas respostas com preferências humanas de qualidade, segurança é útilidade.

Safety Filter é um sistema de filtragem que avalia é bloqueia conteúdo potêncialmente danoso, ofensivo ou inapropriado gerado por modelos de IA, protegendo usuarios contra respostas problematicas.