Así que sé que hay una variable feature_importances_ bajo el clasificador XGBoost. Me preguntaba si hay una manera de ver las características decisivas para cada observación? Esto me permitirá entender por qué el algoritmo de aprendizaje automático predijo su clase para cada observación.
He mirado en LIME: https://github.com/marcotcr/lime
Y parece que tiene lo que necesito. Sólo tengo curiosidad por saber si hay otras bibliotecas que hagan algo similar.
Echa un vistazo a ExPlanificaciones de aditivos de SHapley que tiene una base teórica de juegos ("¿Cómo asignar 'óptimamente' el crédito a los diferentes jugadores de un equipo para el resultado del equipo?" - aquí las variables se tratan como jugadores). En el caso de xgboost y otros algoritmos similares (por ejemplo, LightGBM), los cálculos -que implican la consideración de todos los órdenes en los que se podría dar importancia a las características- pueden realizarse de forma bastante eficiente, por lo que este enfoque se ha hecho bastante popular. Los valores SHAP tienen sus defectos (como probablemente la mayoría de los enfoques de explicabilidad actuales): véase, por ejemplo este documento o el trabajo que se discute en este episodio del podcast .
En general, hay un gran libro en línea sobre el ML explicable que vale la pena investigar. Los capítulos 5.9 y 5.10 tratan de SHAP, pero también hay capítulos sobre LIME, etc., que por supuesto también son enfoques bien conocidos.
Debería echar un vistazo a este gran tuto que da una visión de interpretabilidad para cualquier modelo. En particular, el paquete eli5 en Python y este núcleo sobre la importancia de la permutación debería ayudarle a tener una comprensión más profunda de qué característica tiene una buena señal de predicción para una muestra en particular.
I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.
