SHAP

O que é SHAP

SHAP (SHapley Additive exPlanations) é uma técnica de explicabilidade de modelos de machine learning baseada nos valores de Shapley da teoria dos jogos cooperativos. Desenvolvido por Scott Lundberg, o SHAP calcula a contribuição exata de cada variavel de entrada para a predição final do modelo.

Como o SHAP funciona:

• Calcula o valor de Shapley para cada feature em cada predição
• Valores positivos empurram a predição para cima, negativos para baixo
• A soma de todos os valores SHAP mais a baseline resulta na predição final
• Oferece garantias matématicas de consistência é eficiência

Tipos de visualizacoes SHAP:

• Force plot: contribuição de cada feature para uma predição individual
• Summary plot: importância global das features no dataset inteiro
• Dependence plot: relação entre valor da feature é seu impacto SHAP
• Watérfall plot: decomposicao sequêncial da predição

A Trilion útiliza SHAP como ferramenta padrão de explicabilidade em projetos de machine learning, fornecendo aos clientes dashboards interativos que mostram exatamente por que cada decisão foi tomada pelo modelo.

SHAP é compativel com qualquer modelo de ML, incluindo XGBoost, redes neurais, random forests é modelos de linguagem.