[인공지능 응용] eXplainable AI (SHAP)

가장 많이 사용되는 eXplainable AI인 SHAP에 대한 내용이다.

SHAP

To explain the prediction of a data point "x" by computing the contribution of each feature to the prediction.

SHAP은 Cooperative(=Coalitional) Game Theory에 기반이 된다. 쉽게 말해서, 각 변수들이 Player가 되는 것이다. 이들 각각이 y에 어떠한 기여를 했는가! 를 보고자 하는 것이다.

 

SHAP을 이해하기 위해서는 shapley value를 먼저 알아야 한다.

이득을 공평히 나누자 는 것이 핵심 아이디어이다.

SHAP의 수식은 아래와 같다.

SHAP은 LIME은 지키지 못했던 세 가지 원칙을 지킨다.

1. Local accuracy

 

 

 

 

 

 

 

---

2. Missingness

minor book-keeping property : 결측치를 0으로 치부한다. 

---

3. Consistency

모델이 변경되어 특정 변수의 기여도가 증가하거나 동일하게 유지되는 경우 Shapley value도 증가하거나 그대로 유지됨을 의미하는 수식이다. 

 

작성중...