En modelo selección con $Y$ $ X = (X_1, \ldots, X_p)$ los resultados de las variables explicativas, ¿por qué nos preocupamos por $F_{Y|X}$?

Question

En la selección de modelo con $Y$ como la variable de resultado y $ X = (X_1, \ldots, X_p)$ las variables explicativas, ¿por qué nos preocupamos por $F_{Y|X}$, la distribución condicional del resultado $Y$ dadas la covariables $X = (X_1, \ldots, X_p)$?

He leído que esto es a menudo épocas objeto de estudio en la selección del modelo. Alguien me puede decir ¿por qué nos preocupamos por la distribución condicional? ¿¿Sabiendo la distribución condicional hacer por nosotros en la predicción?

Answer 1

Supongamos que desea crear un modelo predictivo. Es decir, usted tiene algunos datos de $(X, Y)$, y desea utilizar el conocimiento de $X$ hacer una predicción para el valor de $Y$. Prácticamente, desea construir una función de $X$, por lo que el $f(X)$ puede ser de alguna manera interpretarse como una "predicción para $Y$".

La cosa que más espero es que usted puede construir una $f$ que satisface $f(X) = Y$ todas las posibilidades de $X$$Y$, un perfecto enlace entre dos phenomina.

En la práctica, esto no es posible. Si es debido a los límites de nuestro conocimiento, las deficiencias en la medición, o algunos reales de la aleatoriedad en un proceso, que muchas veces no creemos que podemos construir un enlace perfecto entre el$X$$Y$. Dada esta realidad, la distribución condicional $Y \mid X$ es simplemente una herramienta matemática que se utiliza para describir nuestro estado de conocimiento acerca de la $Y$ una vez que tenemos un conocimiento completo de $X$.

Así que si inferimos $f(X)$ como una predicción de $Y$, $f(X)$ debe decirnos algo acerca de la distribución condicional $Y | X$. A veces tratamos de predecir la media de la distribución condicional, a veces la mediana, a veces algo más, pero un modelo predictivo es, al final del día, siempre tratando de decirnos algo acerca de la distribución condicional.

Answer 2

Un modelo de regresión o un GLM (o, de hecho, nay número de otros modelos) están en el corazón un modelo de la distribución condicional, generalmente incluyendo una descripción explícita de la media condicional en términos de los parámetros.

Cuando estás en la estimación de parámetros en (por ejemplo) una regresión lineal, en realidad se está trabajando cómo (en el modelo) la media condicional de $Y$ cambios como las cosas que estamos acondicionado ($x$'s, las variables independientes, los predictores).

En un modelo de regresión otros aspectos de la distribución condicional también se definen -- la varianza condicional, por ejemplo, a menudo puede ser asumida como constante.

De manera similar, con una distribución de Poisson GLM, cuando digo que $Y|x$ es de Poisson, con $$\mu(x) = E(Y|x) = \exp(\beta_0+\beta_1x)\,,$$ I am explicitly modelling the conditional distribution by writing a model for the conditional mean of $Y$ -- that's what the parameters $\beta_0$ and $\beta_1$ definir; a continuación, la distribución condicional de la siguiente manera por el hecho de que una vez que usted tiene la media de la distribución de Poisson, que tiene su distribución:

Aquí el modelo es que, en cualquier valor de $x$ (es decir, condicionado a $x$) $Y$ valor tiene una distribución de Poisson. Tenga en cuenta que la distribución marginal de $Y$ es no Poisson. Los puntos azules (algunos imposición de uno sobre otro) son - de acuerdo con el modelo generado a partir de una distribución de Poisson a cada valor de $x$ (el condicional medio de los cuales están relacionados por un modelo). Los símbolos "+" marca las estimaciones de estos medios condicionales en cada una de las $x$ valor del que había de datos.