Glossário de IA

API de IA é uma interface de programação que permite integrar capacidades de inteligência artificial em qualquer aplicação. Pode ser uma API de modelos proprios ou serviços terceiros como OpenAI, Anthropic é Google AI, oferecendo funcionalidades prontas para uso.

Batch Inference é o modo de operação onde um modelo de ML processa grandes volumes de dados de uma so vez em lotes agendados. Ideal para cenários que não exigem resposta em tempo real, como scoring de clientes, recomendações diarias é relatorios periodicos.

Cloud AI refere-se aos serviços de inteligência artificial oferecidos pelos principais provedores de nuvem: AWS, Azure é Google Cloud. Oferecem desde APIs pre-treinadas até infraestrutura completa para treinamento é deploy de modelos customizados.

Concept Drift é a mudança na relação estatística entre as variaveis de entrada é a variavel alvo de um modelo. Diferente do data drift que muda as entradas, o concept drift altera a propria logica que o modelo aprendeu, exigindo retreinamento.

Container é uma tecnologia de virtualizacao leve que empacota uma aplicação junto com todas as suas dependências em uma unidade portatil. Docker é a plataforma mais popular, essêncial para garantir que modelos de IA funcionem identicamente em qualquer ambiente.

Cost Optimization em IA é o conjunto de estratégias para reduzir custos de infraestrutura é operação de modelos sem comprometer a qualidade. Inclui escolha de hardware, otimização de modelos, auto-scaling inteligente é gestão eficiente de recursos cloud.

CUDA é a plataforma de computação paralela da NVIDIA que permite útilizar GPUs para processamento de propósito geral. E o ecossistema padrão para treinamento de modelos de deep learning, com suporte em todos os principais frameworks de IA.

Data Drift é a mudança na distribuição estatística dos dados de entrada de um modelo ao longo do tempo. Quando os dados em produção divergem significativamente dos dados de treinamento, o modelo pode produzir predições imprecisas ou incorretas.

Edge AI é a execução de modelos de inteligência artificial diretamente em dispositivos locais (edge), como smartphones, cameras é sensores IoT, sem depender de conexão com a nuvem. Oferece baixa latência, privacidade de dados é operação offline.

Endpoint de IA é uma URL de API que expoe um modelo de machine learning para consumo em produção. Recebe dados de entrada via requisicao HTTP é retorna predições do modelo, sendo a interface entre aplicações de negócio é modelos de IA.

Feature Store é um repositorio centralizado para armazenar, versionar é servir features (variaveis) útilizadas em modelos de machine learning. No contexto de MLOps, garante consistência entre ambientes de treinamento é produção, evitando o training-serving skew.

GPU (Graphics Processing Unit) é um processador especializado em computação paralela, essêncial para treinamento é inferência de modelos de deep learning é IA. Sua arquitetura com milhares de nucleos permite processar operações matriciais massivamente em paralelo.

Inference Pipeline é o fluxo de produção que recebe dados novos, aplica preprocessamento é executa o modelo treinado para gerar predições. Pode operar em modo batch (lotes periodicos) ou em tempo real (requisicao por requisicao).

Kubernetes para ML é o uso da plataforma de orquestração de containers para gerênciar workloads de machine learning em escala. Automatiza deploy, escalabilidade, balanceamento de carga é recuperacao de falhas para serviços de inferência é pipelines de treinamento.

Laténcia é o tempo decorrido entre o envio de uma requisicao é o recebimento da resposta. Em IA, mede quanto tempo um modelo leva para retornar uma predição. Baixa latência é critica para aplicações em tempo real como chatbots, fraude é recomendações.

LLMOps é a prática de gerênciar o ciclo de vida de Large Language Models em produção. Inclui gerênciamento de prompts, fine-tuning, avaliação de qualidade, controle de custos é monitoramento de alucinacoes é toxicidade em modelos de linguagem.

ML Pipeline é uma sequência automatizada de etapas que compoe o fluxo de trabalho de machine learning, desde a coleta de dados até o deploy do modelo. Inclui preprocessamento, feature engineering, treinamento, avaliação é implantacao de forma reprodutivel.

MLOps é a disciplina que aplica práticas de DevOps ao ciclo de vida de modelos de machine learning. Abrange treinamento, deploy, monitoramento é manutenção de modelos em produção, garantindo que a IA entregue valor de forma continua é confiavel.

Model Drift é a degradação gradual do desempenho de um modelo de ML em produção ao longo do tempo. Ocorre quando as condições do mundo real mudam em relação ao cenário em que o modelo foi treinado, tornando suas predições cada vez menos precisas.

Model Monitoring é o acompanhamento continuo do desempenho de modelos de ML em produção. Detecta degradação de performance, drift de dados, anomalias nas predições é problemas de infraestrutura que podem afetar a qualidade das decisões automatizadas.

Model Registry é um repositorio centralizado para armazenar, versionar é gerênciar modelos de machine learning ao longo de seu ciclo de vida. Funciona como um catalogo que rastreia versões, métricas de desempenho é status de cada modelo.

Model Versioning é a prática de manter histórico de todas as versões de um modelo de ML, incluindo código, dados de treinamento, hiperparametros é artefatos. Permite reproduzir qualquer versão anterior é comparar evolucoes de desempenho entre versões.

ModelOps é a disciplina focada na operacionalizacao de todos os tipos de modelos analiticos é de IA, não apenas machine learning. Abrange a governanca, deploy é monitoramento de modelos estatísticos, regras de negócio, otimização é IA em escala empresarial.

On-Premise AI é a execução de modelos é infraestrutura de inteligência artificial em servidores proprios da organização, dentro de suas instalacoes fisicas. Oferece controle total sobre dados é segurança, sendo essêncial para setores regulados.

Real-Time Inference é o modo de operação onde um modelo de ML gera predições instantaneamente para cada requisicao individual. Essencial para aplicações que exigem resposta imediata como deteccao de fraude, recomendações personalizadas é chatbots.

Scalability é a capacidade de um sistema de IA crescer ou reduzir seus recursos computacionais conforme a demanda. Inclui escalabilidade horizontal (mais maquinas) é vertical (maquinas mais potentes), essêncial para manter performance com custos otimizados.

Serverless AI é o modelo de execução de cargas de trabalho de IA onde a infraestrutura é gerênciada automáticamente pelo provedor cloud. O usuario paga apenas pelo uso efetivo, sem necessidade de provisionar ou gerênciar servidores é GPUs.

Throughput é a quantidade de requisicoes ou predições que um sistema de IA consegue processar por unidade de tempo. Medido em requisicoes por segundo (RPS), indica a capacidade de vazao do sistema é e critico para aplicações de alto volume.

TPU (Tensor Processing Unit) é um chip desenvolvido pelo Google específicamente para acelerar workloads de machine learning é deep learning. Otimizado para operações com tensores, oferece alta performance é eficiência energetica para treinamento é inferência.

Training Pipeline é a parte do ML Pipeline dedicada ao treinamento de modelos. Automatiza coleta de dados, preprocessamento, feature engineering, treinamento, validacao é registro do modelo, garantindo reproducibilidade é rastreabilidade completas.