¿Qué tan bien se ajusta un solo punto de datos a una distribución?

Question

Tengo que encontrar una manera de medir la 'calidad' de una distribución para un proyecto de investigación.

Recopilamos datos durante un período de tiempo $t_0$ a través de $t_1$ y luego estimamos la distribución que se ajusta a estos datos. En un momento posterior, $t_2$, recopilamos un solo dato. ¿Hay alguna manera de medir la probabilidad de que la distribución estimada inicialmente sea 'correcta', dado este nuevo punto de datos?

Suponemos que los puntos de datos son variables aleatorias independientes.

¡Gracias!

Answer 1

Llama a tu muestra original $X = \{x_1, \ldots, x_n \}$. Si tienes una estimación de densidad $\hat{f}(x|X)$ computada a partir de tus datos, entonces la verosimilitud de tu nuevo punto de datos $u$ es simplemente $\mathcal{L}(u)=\hat{f}(u)$. Valores más altos de $\mathcal{L}$ implican que es más plausible que el nuevo punto de datos se haya obtenido de la misma distribución subyacente de la muestra original.

Answer 2

No sin algunas suposiciones adicionales.

Imagina que la distribución de la que se extraen los datos consiste en $n+1$ valores posibles igualmente probables, y que en $(t_0,t_1)$ observas $n$ de esos valores. En el tiempo $t_2$ observas el $(n+1)$-ésimo valor posible para esa distribución.

No importa qué tan lejos esté ese último punto del resto de los datos, la muestra observada no es más "extraña" que tomar cualquiera de los otros valores para el último punto; de hecho, la MLE de la distribución (la función de distribución empírica) es la más cercana posible a la verdadera distribución.

Answer 3

Permita que su distribución inferida a partir de los datos recopilados en $(t_0, t_1)$ tenga parámetros $\theta$. La probabilidad sobre $\theta$ es proporcional a la densidad del punto observado en $t_2$ dado $\theta$:

$$L(\theta \mid x_{t_2}) = f(x_{t_2} \mid \theta).$$