목록shap (1)

Create Opportunities

[인공지능 응용] eXplainable AI (SHAP)

가장 많이 사용되는 eXplainable AI인 SHAP에 대한 내용이다. SHAP To explain the prediction of a data point "x" by computing the contribution of each feature to the prediction. SHAP은 Cooperative(=Coalitional) Game Theory에 기반이 된다. 쉽게 말해서, 각 변수들이 Player가 되는 것이다. 이들 각각이 y에 어떠한 기여를 했는가! 를 보고자 하는 것이다. SHAP을 이해하기 위해서는 shapley value를 먼저 알아야 한다. 이득을 공평히 나누자 는 것이 핵심 아이디어이다. SHAP의 수식은 아래와 같다. SHAP은 LIME은 지키지 못했던 세 가지 원칙을 지킨..
인공지능 2022. 12. 4. 16:53
이전 Prev 1 Next 다음