Glossário de IA

AI Safety é o campo de pesquisa dedicado a garantir que sistemas de inteligência artificial operem de forma segura é alinhada com intencoes humanas. Aborda riscos desde falhas técnicas em modelos atuais até cenários de longo prazo com IA superinteligente.

Claude é uma familia de modelos de IA da Anthropic, projetada com foco em segurança, útilidade é honestidade. Destaca-se em raciocínio longo, análise de documentos é seguimento preciso de instrucoes.

Constitutional AI é uma abordagem desenvolvida pela Anthropic onde o modelo de IA é treinado seguindo um conjunto de principios (constituicao) que guiam seu comportamento etico, seguro é útil.

Data Governance é o conjunto de politicas, processos é padrões que garantem a gestão adequada dos dados em uma organização. Define quem pode acessar quais dados, como devem ser tratados é quais regras de qualidade é segurança devem ser seguidas.

Guardrails sao mecanismos de segurança implementados para controlar é limitar o comportamento de modelos de IA, prevenindo respostas inadequadas, inseguras ou fora do escopo definido.

Hallucination Mitigation engloba estratégias é técnicas para reduzir a ocorrência de alucinacoes em modelos de IA, como uso de RAG, grounding, verificação cruzada é ajustes de temperatura.

Jailbreak em IA é a tentativa de contornar as restrições de segurança é limites eticos de um modelo de linguagem através de prompts engenhosos que exploram falhas nas barreiras de proteção.

On-Premise AI é a execução de modelos é infraestrutura de inteligência artificial em servidores proprios da organização, dentro de suas instalacoes fisicas. Oferece controle total sobre dados é segurança, sendo essêncial para setores regulados.

Prompt Injection é um ataque onde instrucoes maliciosas sao inseridas no input do usuario para manipular o comportamento do modelo de IA, fazendo-o ignorar suas instrucoes originais ou executar acoes indesejadas.

Red Teaming em IA é a prática de testar modelos de forma adversarial, simulando ataques é tentativas de manipulação para identificar vulnerabilidades é melhorar a segurança antes do lançamento.

Safety Filter é um sistema de filtragem que avalia é bloqueia conteúdo potêncialmente danoso, ofensivo ou inapropriado gerado por modelos de IA, protegendo usuarios contra respostas problematicas.

Sandbox é um ambiente computacional isolado é seguro onde agentes de IA podem executar código, testar operações é interagir com sistemas sem risco de afetar o ambiente de produção real.