Muestreo en lugar del método delta

Question

Digamos que estimo algún vector de parámetros $\theta$ con algún estimador $\hat \theta$ . Lo tengo asintótico,

$\hat \theta \text{ }\dot \sim \text{ } N(\theta, \Sigma)$

Ahora digamos que quiero calcular un intervalo de confianza para $f(\theta)$ , donde $f$ es alguna función diferenciable. Dado un estimador consistente de $\Sigma$ definido como $\hat \Sigma$ puedo crear un intervalo de confianza asintótico utilizando el método delta, es decir

$\hat {f(\theta)} \text{ } \dot \sim \text{ } N\left(f(\theta),\text{ } f'(\theta)^T \Sigma \text{ } f'(\theta) \right)$

Por diversas razones, esto puede ser subóptimo en mi caso. Principalmente la cuestión de que $f$ es muy poco lineal sobre $\theta$ en relación con el área cubierta por $N(\theta, \Sigma)$ .

En mi cabeza, una solución mucho mejor para esto es realmente la muestra de

$N(\hat \theta, \hat \Sigma)$

y luego se conecta directamente a $f$ . Podemos entonces formar intervalos de confianza de la misma manera que normalmente formamos intervalos de credibilidad a partir de muestras MCMC.

¿Es una práctica conocida? ¿Existe una referencia o un nombre para este procedimiento? Me doy cuenta de que no es posible que sea la primera persona en pensar en esto, pero no sé por dónde empezar a buscar referencias para esto.

Answer 1

El procedimiento que describe puede utilizarse para calcular los errores estándar de $f(\hat{\theta})$ . Supongamos que el conocimiento de $\theta$ está disponible y de la que podemos tomar muestras: $$ \tilde\theta_1,...,\tilde\theta_M \sim N(\theta, \Sigma). $$ Entonces, una estimación para el sesgo de $f(\hat\theta)$ es: $$ \frac{1}{M}\sum_{m=1}^{M} f(\tilde\theta_m) - f(\theta), $$ y una estimación de la varianza viene dada por: $$ \hat\Sigma_f = \frac{1}{M-1}\sum_{m=1}^{M} \left(f(\tilde\theta_m) - \bar f \right) \left(f(\tilde\theta_m) - \bar f \right)^{T}. $$

Si elegimos creer en la normalidad asintótica de $f(\hat\theta)$ entonces se pueden construir intervalos de confianza simétricos basados en $\hat\Sigma_f$ de la forma habitual.

Si la hipótesis de normalidad no es deseable, es posible hacer una hipótesis más débil que: $$ f(\hat\theta) - f(\theta) \approx^D f(\tilde\theta) - f(\hat\theta) $$ Supongamos que $f$ es unidimensional y se denota por $D_q$ el $q$ cuantil de la distribución de $f(\tilde\theta) - f(\hat\theta)$ . Bajo el supuesto anterior, un intervalo de confianza válido a un nivel $\alpha$ para $f(\hat\theta)$ está dada por: $$ \left( f(\hat\theta) - D_{1 - \alpha/2}, f(\hat\theta) - D_{\alpha / 2} \right) $$

Sobre el primer paso en el que asumimos el conocimiento de $\theta$ En la práctica, haremos un muestreo: $$ \hat\theta_1,...,\hat\theta_M \sim N(\hat\theta, \Sigma). $$ Sin embargo, es importante tener en cuenta que si $\hat\theta$ está lejos de $\theta$ o no es normal, entonces los intervalos de confianza resultantes pueden ser inexactos.