SHAP

O que e SHAP

SHAP (SHapley Additive exPlanations) e uma tecnica de explicabilidade de modelos de machine learning baseada nos valores de Shapley da teoria dos jogos cooperativos. Desenvolvido por Scott Lundberg, o SHAP calcula a contribuicao exata de cada variavel de entrada para a predicao final do modelo.

Como o SHAP funciona:

• Calcula o valor de Shapley para cada feature em cada predicao
• Valores positivos empurram a predicao para cima, negativos para baixo
• A soma de todos os valores SHAP mais a baseline resulta na predicao final
• Oferece garantias matematicas de consistencia e eficiencia

Tipos de visualizacoes SHAP:

• Force plot: contribuicao de cada feature para uma predicao individual
• Summary plot: importancia global das features no dataset inteiro
• Dependence plot: relacao entre valor da feature e seu impacto SHAP
• Waterfall plot: decomposicao sequencial da predicao

A Trilion utiliza SHAP como ferramenta padrao de explicabilidade em projetos de machine learning, fornecendo aos clientes dashboards interativos que mostram exatamente por que cada decisao foi tomada pelo modelo.

SHAP e compativel com qualquer modelo de ML, incluindo XGBoost, redes neurais, random forests e modelos de linguagem.