Cómo saber qué variables influyen en un modelo bayesiano

Question

¿Hay alguna forma de saber qué variables de un modelo de predicción influyen en el resultado de la predicción de una fila concreta de un conjunto de datos?

Por ejemplo, tengo un conjunto de datos de estudiantes y mi variable objetivo es si el estudiante evade o no la escuela. Mi modelo predice que el estudiante X tiene un 85% de posibilidades de abandonar la escuela. ¿Cómo puedo saber cuáles son las variables que influyen en el resultado de ese estudiante en particular?

Answer 1

Depende del tipo de modelo que utilices. Imagino que si tus predicciones salen como probabilidades, entonces estás usando una regresión logística como:

$Pr[\text{Student Evades School}|\vec{x}] = \frac{1}{1-\text{Exp}[\beta_0 + \sum\limits_{i=1}^n \beta_i x_i]}$

Donde el $x_i$ son sus variables de predicción.

La forma más sencilla de evaluar la capacidad de predicción relativa de diferentes $x_i$ es considerar la magnitud del $\beta_i$ . Cuando los coeficientes son grandes, esto significa que pequeños cambios en la variable correspondiente producen grandes cambios en la probabilidad predicha. Este sería un buen enfoque si se quisiera, por ejemplo, encontrar la variable que mejor reduce la probabilidad de absentismo escolar. Tenga en cuenta que el signo de la $\beta_i$ refleja lo que un aumento de $x_i$ a la probabilidad; los coeficientes negativos significan que el aumento de la variable disminuirá la probabilidad. Tenga en cuenta que tendrá que combinar esta información con los valores específicos de las variables predictoras para un determinado predictor. Si $\beta_{10}$ es mucho más grande que cualquier otro $\beta_i$ pero para una predicción específica $x_{10} = 0$ entonces tendrá que buscar el siguiente mayor $\beta_i$ y así sucesivamente.