Derivados de la log-verosimilitud de un ' complicado ' distribución

Question

En 'la Probabilidad basada en la inferencia con singular de la matriz de información' (Rotnitzky) se da un ejemplo de la siguiente manera:

Supongamos que $Y$ se distribuye normalmente con una media de $\beta$ y la varianza $\sigma^2$. Hay disponibles para el estudio de la $n$ independiente de los individuos, sino para cada uno hay la posibilidad de que el valor de $Y$ no puede ser observado. Si la probabilidad de no ser capaz de observar $Y$ se supone independiente del valor observado en el análisis continúa con solo la observa plenamente los individuos. Supongamos, sin embargo, que condicionalmente en $Y= y$ la probabilidad de observar $y$ tiene la forma $$\mathcal{P}_c(y; \alpha_0, \alpha_1) = \exp\left\{H\left(\alpha_0+\alpha_1\dfrac{y-\beta}{\sigma}\right)\right\}$$ donde $(\alpha_0, \alpha_1)$ son parámetros desconocidos y $H(\cdot)$ es una función conocida supone que tienen sus tres primeras derivadas en $\alpha_0$ cero. El interés puede estar en los pequeños valores de $\alpha_1$ y, en particular, en la prueba de la hipótesis nula $\alpha_1=0$.

Por lo tanto, consideramos dos variables aleatorias $(R,Y)$ donde $R$ es binaria, toma los valores 0 y 1. El valor de $Y$ se cumple si y sólo si $R=1$. La contribución de un individuo a la log-verosimilitud es así $$-r\log \sigma - r \frac{(y-\beta)^2}{(2\sigma)^2} + rH\left(\alpha_0+\alpha_1 \dfrac{y-\beta}{\sigma}\right) + (1-r)\log Q_c(\alpha_0,\alpha_1)$$

donde $$Q_C(\alpha_0,\alpha_1) = E\{1-\mathcal{P}_c(Y;\alpha_0,\alpha_1)\}$$ es la probabilidad marginal de que $Y$ no se observa. Para $n$ de los individuos de la log-verosimilitud $L_n(\beta,\sigma, \alpha_0, \alpha_1)$ es la suma de $n$ tales términos.

Pero no entiendo cómo este log-verosimilitud se deriva. Supongo que tendría algo como $f_{Y,R}(y,r) = f_{Y|R}(y|r) \cdot f_R(r)$ pero, ¿cómo funciona esto?

También sé cómo $$f_R(r) = \left(\exp\left\{H\left(\alpha_0+\alpha_1\dfrac{y-\beta}{\sigma}\right) \right\}\right)^r \cdot \left(1-\exp\left\{H\left(\alpha_0+\alpha_1\dfrac{y-\beta}{\sigma}\right)\right\}\right)^{1-r}$$ Pero, a continuación, la log-verosimilitud sería $$r\cdot \left\{H\left(\alpha_0+\alpha_1\dfrac{y-\beta}{\sigma}\right)\right\}+(1-r) \cdot \log\left(1-\exp\left\{H\left(\alpha_0+\alpha_1\dfrac{y-\beta}{\sigma}\right)\right\}\right) $$

¿Por qué es $Q_c$ el valor esperado de $1-\mathcal{P}_c$?

Answer 1

Para una cosa, $Y$ es independiente de $R$, pero no viceversa. Para que tenga más sentido para descomponer la distribución como $p(Y,R) = p(R \mid Y) p(Y).$ sin Embargo, tenga en cuenta que la Probabilidad se define como la probabilidad de que el observado los datos, dados los parámetros del modelo. Si $R=0$ $Y$ no se observa. Por lo tanto, la probabilidad de que una observación para que $R=0$ sería la probabilidad marginal de $R=0$. Es decir, para una única observación de que $R=0$,

$$ \begin{split} \mathcal{L}(Y,R=0) &= p(R=0) \\ &= \int p(R=0 \mid y) p(y) dy \\ &= \int \{ 1 - \mathcal{P}_c(y; \alpha_0, \alpha_1)\} p (y) dy \\ &= E\{1 - \mathcal{P}_c(y; \alpha_0, \alpha_1)\}. \end{split} $$ El punto clave aquí es que si $R=0$ $Y$ es observado, por lo tanto, estamos tomando la probabilidad de que sólo la variable observada aquí, es decir,$p(R)$. En los casos donde $R=1$ podemos observar tanto en$R$$Y$, por lo que la probabilidad de contribución de este punto de datos se convierte en $$ \mathcal{L}(Y, R=1) = p(Y,R=1) = p(Y) p(R=1 \mid Y) = \mathcal{N}(Y \mid \beta, \sigma^2) \mathcal{P}_c(Y; \alpha_0, \alpha_1).$$ Así que para ponerlo en general, el registro de probabilidad para una sola observación se convierte en $$ \begin{split} \log \mathcal{L}(Y,R) &= R \log p(Y,R) + (1-R) p(R) \\ &= R \{ \log \mathcal{N}(Y \mid \beta, \sigma^2) + \log \mathcal{P}_c(Y; \alpha_0, \alpha_1) \} + (1-R)E\{1 - \mathcal{P}_c(y; \alpha_0, \alpha_1)\}. \end{split} $$

EDIT: Como Alecos Papadopoulos señalado correctamente, mi primera frase es errónea. Lo que debo decir es que es más conveniente para usar mi descomposición, pero sin duda se puede descomponer en la otra dirección, si desea. No creo que esto socava el resto de mis pasos.