Glossário de IA

Accountability em IA e o principio de que deve haver responsabilizacao clara por decisoes e impactos de sistemas de inteligencia artificial. Define quem responde por falhas, vieses e danos, estabelecendo cadeias de responsabilidade ao longo do ciclo de vida.

O AI Act e a regulamentacao da Uniao Europeia para inteligencia artificial, estabelecendo regras baseadas em niveis de risco. Classifica sistemas de IA em categorias de risco inaceitavel, alto, limitado e minimo, com obrigacoes proporcionais.

AI Alignment e o desafio de garantir que sistemas de inteligencia artificial ajam de acordo com valores e intencoes humanas. Envolve alinhar objetivos de otimizacao do modelo com o que os humanos realmente desejam, evitando comportamentos nao intencionados.

AI Audit e o processo sistematico de avaliar sistemas de inteligencia artificial quanto a conformidade, fairness, seguranca e desempenho. Inclui revisao de dados, modelos, processos e impactos para garantir que a IA opere dentro de padroes aceitaveis.

AI Ethics Board e um comite organizacional dedicado a supervisionar aspectos eticos de projetos de inteligencia artificial. Composto por especialistas multidisciplinares, avalia riscos eticos, define diretrizes e aprova implantacoes de sistemas de IA.

AI Governance Framework e uma estrutura organizacional que define processos, papeis, controles e metricas para gerenciar sistemas de IA de forma responsavel. Integra aspectos tecnicos, eticos, legais e operacionais em um modelo coeso de governanca.

AI Policy refere-se ao conjunto de politicas publicas e organizacionais que regulam o desenvolvimento e uso de inteligencia artificial. Abrange legislacao, normas tecnicas, diretrizes eticas e frameworks de governanca em niveis nacional e internacional.

AI Safety e o campo de pesquisa dedicado a garantir que sistemas de inteligencia artificial operem de forma segura e alinhada com intencoes humanas. Aborda riscos desde falhas tecnicas em modelos atuais ate cenarios de longo prazo com IA superinteligente.

Consent Management em IA refere-se aos sistemas e processos para obter, registrar e gerenciar o consentimento dos usuarios para coleta e uso de seus dados em treinamento e operacao de modelos de inteligencia artificial, em conformidade com LGPD e GDPR.

Data Minimization e o principio de coletar e processar apenas os dados estritamente necessarios para o objetivo pretendido. Em IA, significa treinar modelos com o minimo de dados pessoais possiveis, reduzindo riscos de privacidade e melhorando governanca.

Datasheets for Datasets e uma proposta de documentacao padronizada para datasets usados em machine learning. Detalha motivacao, composicao, processo de coleta, pre-processamento, usos recomendados e consideracoes eticas do conjunto de dados.

Differential Privacy (Privacidade Diferencial) e um framework matematico que garante que a inclusao ou exclusao de um individuo no dataset nao afete significativamente os resultados da analise. Adiciona ruido calibrado aos dados ou consultas para proteger a privacidade.

Ethical AI refere-se ao desenvolvimento de inteligencia artificial guiado por principios morais e valores humanos. Abrange consideracoes sobre impacto social, direitos humanos, diversidade, inclusao e o bem-estar das comunidades afetadas pela tecnologia.

Explicabilidade ou XAI (Explainable AI) e a capacidade de entender e interpretar como um modelo de IA chega a suas decisoes. Fundamental para regulacao, confianca do usuario e depuracao de modelos complexos como redes neurais profundas.

Fairness em IA refere-se ao principio de que sistemas inteligentes devem tratar todos os grupos de forma justa e equitativa. Envolve metricas matematicas como paridade demografica, igualdade de oportunidades e calibracao entre subgrupos populacionais.

Federated Learning (Aprendizado Federado) e uma tecnica de machine learning que treina modelos em dispositivos ou servidores distribuidos sem centralizar os dados. Cada participante treina localmente e apenas os pesos do modelo sao compartilhados.

Impact Assessment de IA e uma avaliacao abrangente dos efeitos potenciais de um sistema de inteligencia artificial sobre individuos, grupos e a sociedade. Examina impactos em direitos humanos, privacidade, equidade, emprego e meio ambiente.

Interpretabilidade em IA e a propriedade de um modelo ser compreensivel por humanos de forma intrinseca. Modelos interpretaveis como arvores de decisao e regressao linear permitem entender diretamente a logica de predicao sem ferramentas adicionais.

A relacao entre LGPD (Lei Geral de Protecao de Dados) e IA abrange o uso de dados pessoais em treinamento de modelos, decisoes automatizadas e o direito do titular a explicacao. A conformidade exige bases legais claras e medidas tecnicas de protecao.

LIME (Local Interpretable Model-agnostic Explanations) e uma tecnica que explica predicoes individuais de qualquer modelo de IA criando aproximacoes locais simples e interpretaveis ao redor de cada ponto de decisao.

Model Card e um documento padronizado que acompanha modelos de machine learning, detalhando desempenho, limitacoes, dados de treino, metricas de fairness e contexto de uso pretendido. Promove transparencia e decisoes informadas sobre implantacao de modelos.

Privacy-Preserving Machine Learning e o conjunto de tecnicas que permite treinar e usar modelos de IA sem expor dados pessoais ou sensitiveis. Inclui aprendizado federado, privacidade diferencial, computacao segura multipartidaria e dados sinteticos.

Regulacao de IA no Brasil refere-se ao marco legal em desenvolvimento para governar sistemas de inteligencia artificial no pais. Inclui o PL 2338/2023, a atuacao da ANPD, a LGPD aplicada a IA e a Estrategia Brasileira de IA (EBIA).

Responsible AI (IA Responsavel) e a pratica de desenvolver e implantar sistemas de inteligencia artificial de forma etica, justa, transparente e segura. Engloba principios de fairness, accountability, transparencia e protecao de privacidade ao longo de todo o ciclo de vida.

Right to Explanation e o direito dos individuos de obter explicacoes compreensivas sobre decisoes automatizadas que os afetam significativamente. Previsto na LGPD (Art. 20) e GDPR, exige que organizacoes justifiquem decisoes tomadas por algoritmos.

Risk Assessment de IA e o processo de identificar, avaliar e priorizar riscos associados a sistemas de inteligencia artificial. Analisa riscos tecnicos, eticos, legais e operacionais para determinar controles necessarios antes e durante a operacao.

SHAP (SHapley Additive exPlanations) e um metodo baseado na teoria dos jogos que calcula a contribuicao de cada variavel para a predicao de um modelo. Permite entender quais features mais influenciam cada decisao individual do sistema.

Dados sinteticos para privacidade sao conjuntos de dados artificiais gerados por algoritmos que preservam as propriedades estatisticas dos dados reais sem conter informacoes de individuos reais. Permitem treinar modelos e fazer analises sem riscos de privacidade.

Transparencia de IA e o principio de que sistemas inteligentes devem ser abertos quanto ao seu funcionamento, limitacoes e dados utilizados. Inclui documentacao clara, comunicacao honesta sobre capacidades e acesso a informacoes sobre o processo decisorio.

Vies algoritmico ocorre quando sistemas de IA produzem resultados sistematicamente prejudiciais para determinados grupos. Esse problema surge de dados de treinamento enviesados ou escolhas de design inadequadas, afetando decisoes em credito, contratacao e justica criminal.