Glossário de IA

Alucinacao de IA ocorre quando um modelo de linguagem gera informacoes falsas, inventadas ou inconsistentes com a realidade, apresentando-as como se fossem verdadeiras. E um dos principais desafios da IA generativa.

Chain-of-Thought (CoT) e uma tecnica de prompting que incentiva modelos de IA a explicitar seu raciocinio passo a passo antes de chegar a uma conclusao, melhorando significativamente a precisao em tarefas complexas.

Chunking e o processo de dividir documentos grandes em segmentos menores (chunks) para processamento eficiente por modelos de IA, sendo uma etapa crucial na construcao de sistemas RAG.

Code Generation e o processo automatizado de criar codigo fonte usando modelos de IA treinados em grandes repositorios de codigo, capaz de produzir solucoes em multiplas linguagens e frameworks.

Constitutional AI e uma abordagem desenvolvida pela Anthropic onde o modelo de IA e treinado seguindo um conjunto de principios (constituicao) que guiam seu comportamento etico, seguro e util.

Content Detection e o conjunto de tecnicas e ferramentas usadas para identificar se um conteudo (texto, imagem, audio ou video) foi gerado por IA, ajudando a manter a autenticidade e combater desinformacao.

Context Window e o limite maximo de tokens que um modelo de IA pode processar de uma vez, incluindo tanto a entrada (prompt) quanto a saida gerada, definindo a quantidade de informacao acessivel em cada interacao.

ControlNet e uma arquitetura que adiciona controles condicionais a modelos de difusao, permitindo guiar a geracao de imagens com mapas de bordas, poses, profundidade e outros sinais estruturais.

Cosine Similarity e uma metrica matematica que mede o angulo entre dois vetores em espaco multidimensional, calculando a similaridade semantica entre textos, imagens ou outros dados representados como embeddings.

Deepfake e conteudo de midia sintetica gerado por IA que substitui a aparencia ou voz de uma pessoa por outra de forma realista, levantando serias questoes eticas sobre desinformacao e privacidade.

DPO (Direct Preference Optimization) e uma alternativa simplificada ao RLHF que alinha modelos de IA com preferencias humanas diretamente durante o treinamento, sem necessitar de um modelo de recompensa separado.

Embedding e a representacao numerica (vetor) de texto, imagens ou outros dados em um espaco multidimensional, onde itens semanticamente similares ficam proximos, possibilitando busca e comparacao por significado.

Few-Shot Prompting e uma tecnica onde se fornece alguns exemplos de entrada e saida desejada no prompt, permitindo que o modelo de IA aprenda o padrao esperado e reproduza em novas situacoes sem treinamento adicional.

Grounding e a tecnica de ancorar respostas de IA em dados verificaveis e fontes confiaveis, garantindo que o conteudo gerado seja factualmente correto e rastreavel, reduzindo alucinacoes.

Guardrails sao mecanismos de seguranca implementados para controlar e limitar o comportamento de modelos de IA, prevenindo respostas inadequadas, inseguras ou fora do escopo definido.

Hallucination Mitigation engloba estrategias e tecnicas para reduzir a ocorrencia de alucinacoes em modelos de IA, como uso de RAG, grounding, verificacao cruzada e ajustes de temperatura.

Image-to-Image e uma tecnica de IA generativa que transforma uma imagem de entrada em outra imagem modificada, aplicando estilos, correcoes ou transformacoes guiadas por prompts textuais.

Img2Img e o fluxo de trabalho em modelos de difusao que usa uma imagem existente como ponto de partida para gerar novas imagens, controlando o nivel de transformacao atraves do parametro de forca (strength).

In-Context Learning (ICL) e a capacidade de modelos de linguagem de aprender e adaptar seu comportamento a partir de instrucoes e exemplos fornecidos diretamente no prompt, sem alterar seus parametros internos.

Inpainting e uma tecnica de IA que preenche ou substitui partes selecionadas de uma imagem de forma inteligente, mantendo coerencia visual com o restante da imagem para edicao ou restauracao.

Instruction Tuning e o processo de treinar modelos de linguagem com pares de instrucoes e respostas desejadas, tornando-os mais capazes de seguir comandos humanos e produzir saidas uteis e alinhadas.

Jailbreak em IA e a tentativa de contornar as restricoes de seguranca e limites eticos de um modelo de linguagem atraves de prompts engenhosos que exploram falhas nas barreiras de protecao.

Outpainting e a tecnica de IA que expande uma imagem alem de suas bordas originais, gerando conteudo novo e coerente que estende a cena, permitindo ampliar o enquadramento de qualquer imagem.

Prompt Engineering e a pratica de projetar e otimizar instrucoes (prompts) enviadas a modelos de IA generativa para obter respostas mais precisas, relevantes e uteis. Envolve tecnicas como estruturacao de contexto, exemplos e restricoes.

Prompt Injection e um ataque onde instrucoes maliciosas sao inseridas no input do usuario para manipular o comportamento do modelo de IA, fazendo-o ignorar suas instrucoes originais ou executar acoes indesejadas.

RAG (Retrieval-Augmented Generation) e uma tecnica que combina busca em bases de conhecimento externas com geracao de texto por IA, permitindo respostas mais precisas e fundamentadas em dados atualizados.

Red Teaming em IA e a pratica de testar modelos de forma adversarial, simulando ataques e tentativas de manipulacao para identificar vulnerabilidades e melhorar a seguranca antes do lancamento.

Reranking e a etapa de reordenacao de resultados de busca usando um modelo especializado que avalia a relevancia de cada resultado em relacao a consulta original, melhorando a precisao final.

RLHF e uma tecnica de treinamento que usa feedback humano para ajustar modelos de IA via aprendizado por reforco, alinhando suas respostas com preferencias humanas de qualidade, seguranca e utilidade.

Safety Filter e um sistema de filtragem que avalia e bloqueia conteudo potencialmente danoso, ofensivo ou inapropriado gerado por modelos de IA, protegendo usuarios contra respostas problematicas.