¿Consistencia del estimador de M basado en el estimador de plug-in?

Question

Supongamos que tenemos una estimación de una cantidad $\theta_0$ $\tilde{\theta} = \hat{\theta}(\eta)$ que resuelve la ecuación de estimación

$$S_n(\tilde{\theta}, \eta_0) = 0$$

donde $\eta_0$ es una molestia parámetro que se conoce. Supongamos que la hipótesis de la M-estimador están satisfechos, y

$$\tilde{\theta} \xrightarrow{p}\ \theta_0$$

de modo que la consistencia se logra.

Pregunta: Vamos a suponer que no sabe $\eta_0$, pero tenemos un estimador consistente $\hat{\eta}$$\eta_0$. Ahora si $\hat{\theta} = \hat{\theta}(\hat{\eta})$, bajo condiciones que tenemos constancia?

Claramente si estimamos $\hat{\eta}$ a través de una ecuación de estimación que podemos apilar todas nuestras ecuaciones de estimación y así obtener la consistencia automáticamente.

Sin embargo, lo que si $\hat{\eta}$ no se obtiene a través de una ecuación de estimación?

Answer 1

Antecedentes: Para la consistencia al $\eta_0$ es conocido, por lo general, necesita una función $S(\theta, \eta)$ tal que para cada a $\epsilon > 0$ hemos

$$\sup_{\theta \in \Theta} \frac{| S_n(\theta,\eta_0) - S(\theta,\eta_0) |}{1 + | S_n(\theta,\eta_0)| + |S(\theta,\eta_0) |} \xrightarrow{p}\ 0$$ $$\inf_{|\theta - \theta_0| > \delta}| S(\theta,\eta_0) | > 0 = |S(\theta_0, \eta_0)|$$

con $S_n(\tilde{\theta},\eta_0) = op(1)$.

Tenga en cuenta que una versión más restrictiva de la primera suposición es

$$\sup_{\theta \in \Theta} | S_n(\theta,\eta_0) - S(\theta,\eta_0) | \xrightarrow{p}\ 0$$

Desde el infimum condición, para cualquier $\delta >0 $ tenemos un $\epsilon > 0$ que

$ P $ \left( \left| \tilde{\theta} - \theta_0 \right| > \delta \right) \le P\left( \left| S(\tilde{\theta},\eta_0) \right| \ge \epsilon \right) $$

La consistencia puede entonces ser demostrado a través de la

$$ \begin{align}| S(\tilde{\theta},\eta_0) | &\le | S_n(\tilde{\theta}, \eta_0) | + |S(\tilde{\theta},\eta_0) - S_n(\tilde{\theta}, \eta_0) | \\ &\le op(1) + op(1+|S_n(\tilde{\theta},\eta_0)| + |S(\tilde{\theta}, \eta_0)|) \\ &= op(1 + S(\tilde{\theta}, \eta_0)) = op(1) \end{align} $$

Por lo tanto $P\left( | S(\tilde{\theta},\eta_0) | \ge \epsilon \right) \to 0$ lo que demuestra la consistencia.

Solución:

Supongamos que, además de los supuestos anteriores, ya sea

(1) $S_n(\theta,\eta)$ es estocásticamente continua uniformemente en $\theta$ con respecto al $\eta$ $\eta_0$

o

(2) $S(\theta,\eta)$ es uniformemente continua en a $\theta$ con respecto al $\eta$ $\eta_0$

con $S_n(\hat{\theta},\hat{\eta}) = op(1)$.

Si (1) es verdadera, la prueba es trivial, con

$$ \begin{align} |S_n(\hat{\theta},\hat{\eta})| &\le |S_n(\hat{\theta},\eta_0)| + |S_n(\hat{\theta},\hat{\eta}) - S_n(\hat{\theta},\eta_0)| \\ &\le |S_n(\hat{\theta},\eta_0)| + \sup_{\theta \in \Theta}|S_n(\theta,\hat{\eta}) - S_n(\theta,\eta_0)| \\ &= |S_n(\hat{\theta},\eta_0)| + op(1) \end{align}$$ con la última línea de la verdadera causa de (1).

Llegamos a la conclusión de que el $\hat{\theta}$ también satisface $S_n(\hat{\theta},\eta_0) = op(1)$, y la teoría en el fondo puede ser aplicado de forma automática.

Si (2) es verdadera, desde el infimum condición, obtenemos que para cualquier $\delta >0 $ tenemos una $\epsilon_1 > 0$ $\epsilon_2 > 0$ tal que

$$\inf_{\theta :|\theta-\theta_0| > \delta}\inf_{|\eta -\eta_0| \le \epsilon_2 }| S(\theta,\eta) | > \epsilon_1 $$

Por lo tanto, tenemos

$ P $ \left( \left| \hat{\theta} - \theta_0 \right| > \delta \right) \le P\left( \left| S(\hat{\theta},\hat{\eta}) - S(\theta_0,\hat{\eta}) \right| > \epsilon_1 \right) + P(|\hat{\eta} - \eta_0| > \epsilon_2)$$

El último término tiende a cero como $n \to \infty$.

Entonces, tenemos

$$ \begin{align} | S(\hat{\theta},\hat{\eta}) - S(\theta_0,\hat{\eta}) | &\le |S(\hat{\theta},\eta_0) - S(\theta_0,\eta_0)| \\ &+ |S(\hat{\theta},\hat{\eta}) - S(\hat{\theta},\eta_0)| + |S( \theta_0,\hat{\eta}) - S(\theta_0,\eta_0)| \\ &\le op(1) + 2\sup_{\theta \in \Theta}|S( \theta,\hat{\eta}) - S(\theta,\eta_0)| \\ &= op(1) \end{align} $$

donde la última línea es la verdadera causa de (2).