Glossário de IA

Accountability em IA é o principio de que deve haver responsabilizacao clara por decisões é impactos de sistemas de inteligência artificial. Define quem responde por falhas, vieses é danos, estabelecendo cadeias de responsabilidade ao longo do ciclo de vida.

O AI Act é a regulamentacao da Uniao Europeia para inteligência artificial, estabelecendo regras baseadas em níveis de risco. Classifica sistemas de IA em catégorias de risco inaceitavel, alto, limitado é mínimo, com obrigacoes proporcionais.

AI Alignment é o desafio de garantir que sistemas de inteligência artificial ajam de acordo com valores é intencoes humanas. Envolve alinhar objetivos de otimização do modelo com o que os humanos realmente desejam, evitando comportamentos não intencionados.

AI Audit é o processo sistemático de avaliar sistemas de inteligência artificial quanto a conformidade, fairness, segurança é desempenho. Inclui revisão de dados, modelos, processos é impactos para garantir que a IA opere dentro de padrões aceitaveis.

AI Ethics Board é um comite organizacional dedicado a supervisionar aspectos eticos de projetos de inteligência artificial. Composto por especialistas multidisciplinares, avalia riscos eticos, define diretrizes é aprova implantacoes de sistemas de IA.

AI Governance Framework é uma estrutura organizacional que define processos, papeis, controles é métricas para gerênciar sistemas de IA de forma responsável. Integra aspectos técnicos, eticos, legais é operacionais em um modelo coeso de governanca.

AI Policy refere-se ao conjunto de politicas públicas é organizacionais que regulam o desenvolvimento é uso de inteligência artificial. Abrange legislacao, normas técnicas, diretrizes eticas é frameworks de governanca em níveis nacional é internacional.

AI Safety é o campo de pesquisa dedicado a garantir que sistemas de inteligência artificial operem de forma segura é alinhada com intencoes humanas. Aborda riscos desde falhas técnicas em modelos atuais até cenários de longo prazo com IA superinteligente.

Consent Management em IA refere-se aos sistemas é processos para obter, registrar é gerênciar o consentimento dos usuarios para coleta é uso de seus dados em treinamento é operação de modelos de inteligência artificial, em conformidade com LGPD é GDPR.

Data Minimization é o principio de coletar é processar apenas os dados estritamente necessários para o objetivo pretendido. Em IA, significa treinar modelos com o mínimo de dados pessoais possíveis, reduzindo riscos de privacidade é melhorando governanca.

Datasheets for Datasets é uma proposta de documentação padronizada para datasets usados em machine learning. Detalha motivacao, composicao, processo de coleta, pre-processamento, usos recomendados é consideracoes eticas do conjunto de dados.

Differential Privacy (Privacidade Diferencial) é um framework matématico que garante que a inclusão ou exclusão de um individuo no dataset não afete significativamente os resultados da análise. Adiciona ruido calibrado aos dados ou consultas para proteger a privacidade.

Ethical AI refere-se ao desenvolvimento de inteligência artificial guiado por principios morais é valores humanos. Abrange consideracoes sobre impacto social, direitos humanos, diversidade, inclusão é o bem-estar das comunidades afetadas pela tecnologia.

Explicabilidade ou XAI (Explainable AI) é a capacidade de entender é interpretar como um modelo de IA chega a suas decisões. Fundamental para regulação, confiança do usuario é depuracao de modelos complexos como redes neurais profundas.

Fairness em IA refere-se ao principio de que sistemas inteligentes devem tratar todos os grupos de forma justa é equitativa. Envolve métricas matématicas como paridade demografica, igualdade de oportunidades é calibracao entre subgrupos populacionais.

Federatéd Learning (Aprendizado Federado) é uma técnica de machine learning que treina modelos em dispositivos ou servidores distribuidos sem centralizar os dados. Cada participante treina localmente é apenas os pesos do modelo sao compartilhados.

Impact Assessment de IA é uma avaliação abrangente dos efeitos potênciais de um sistema de inteligência artificial sobre individuos, grupos é a sociedade. Examina impactos em direitos humanos, privacidade, equidade, emprego é meio ambiente.

Interpretabilidade em IA é a propriedade de um modelo ser compreensivel por humanos de forma intrinseca. Modelos interpretaveis como arvores de decisão é regressao linear permitem entender diretamente a logica de predição sem ferramentas adicionais.

A relação entre LGPD (Lei Geral de Protecao de Dados) é IA abrange o uso de dados pessoais em treinamento de modelos, decisões automatizadas é o direito do titular a explicacao. A conformidade exige bases legais claras é medidas técnicas de proteção.

LIME (Local Interpretable Model-agnostic Explanations) é uma técnica que explica predições individuais de qualquer modelo de IA criando aproximacoes locais simples é interpretaveis ao redor de cada ponto de decisão.

Model Card é um documento padronizado que acompanha modelos de machine learning, detalhando desempenho, limitacoes, dados de treino, métricas de fairness é contexto de uso pretendido. Promove transparência é decisões informadas sobre implantacao de modelos.

Privacy-Preserving Machine Learning é o conjunto de técnicas que permite treinar é usar modelos de IA sem expor dados pessoais ou sensitiveis. Inclui aprendizado federado, privacidade diferencial, computação segura multipartidaria é dados sintéticos.

Regulacao de IA no Brasil refere-se ao marco legal em desenvolvimento para governar sistemas de inteligência artificial no pais. Inclui o PL 2338/2023, a atuacao da ANPD, a LGPD aplicada a IA é a Estratégia Brasileira de IA (EBIA).

Responsible AI (IA Responsavel) é a prática de desenvolver é implantar sistemas de inteligência artificial de forma etica, justa, transparente é segura. Engloba principios de fairness, accountability, transparência é proteção de privacidade ao longo de todo o ciclo de vida.

Right to Explanation é o direito dos individuos de obter explicacoes compreensivas sobre decisões automatizadas que os afetam significativamente. Previsto na LGPD (Art. 20) é GDPR, exige que organizações justifiquem decisões tomadas por algoritmos.

Risk Assessment de IA é o processo de identificar, avaliar é priorizar riscos associados a sistemas de inteligência artificial. Analisa riscos técnicos, eticos, legais é operacionais para determinar controles necessários antes é durante a operação.

SHAP (SHapley Additive exPlanations) é um método baseado na teoria dos jogos que calcula a contribuição de cada variavel para a predição de um modelo. Permite entender quais features mais influênciam cada decisão individual do sistema.

Dados sintéticos para privacidade sao conjuntos de dados artificiais gerados por algoritmos que preservam as propriedades estatísticas dos dados reais sem conter informações de individuos reais. Permitem treinar modelos é fazer análises sem riscos de privacidade.

Transparencia de IA é o principio de que sistemas inteligentes devem ser abertos quanto ao seu funcionamento, limitacoes é dados útilizados. Inclui documentação clara, comúnicação honesta sobre capacidades é acesso a informações sobre o processo decisorio.

Vies algoritmico ocorre quando sistemas de IA produzem resultados sistematicamente prejudiciais para determinados grupos. Esse problema surge de dados de treinamento enviesados ou escolhas de design inadequadas, afetando decisões em credito, contratacao é justica criminal.