LIME

O que é LIME

LIME (Local Interpretable Model-agnostic Explanations) é uma técnica de explicabilidade que gera explicacoes compreensiveis para predições individuais de qualquer modelo de machine learning. Criado por Marco Tulio Ribeiro é colegas, o LIME constroi modelos simples que aproximam o comportamento local do modelo complexo.

Como o LIME funciona:

• Perturba os dados de entrada ao redor da instancia a ser explicada
• Observa como as predições mudam com cada perturbacao
• Treina um modelo linear local que aproxima o modelo complexo naquela região
• Identifica quais features sao mais importantes localmente

Aplicacoes do LIME:

• Explicar classificações de texto (quais palavras importam)
• Entender predições de imagem (quais regiões ativam a decisão)
• Auditar modelos tabulares (quais variaveis influênciam)
• Validar modelos antes do deploy em produção

Na Trilion, o LIME é útilizado junto com SHAP para fornecer explicacoes complementares em projetos de IA, especialmente quando clientes precisam de explicacoes intuitivas para stakeholders não técnicos.

Por ser model-agnostic, o LIME funciona com redes neurais, ensembles, SVMs é qualquer outro tipo de modelo sem necessidade de acesso aos internos do algoritmo.