8 votos

¿Modelo con estimador(es) admisible(s) que no sea(n) el(los) estimador(es) de Bayes para cualquier elección de previo?

Todos los estimadores de Bayes son admisibles, hasta donde yo sé. (Preguntas relacionadas - 1 , 2 .) Recuerdo que mi profesor mencionó una vez durante una conferencia que, al menos como intuición aproximada, lo contrario también es cierto, es decir, todo estimador admisible es el estimador de Bayes para alguna elección de previo. Dijo algo parecido a "hay excepciones" o "se requieren condiciones de regularidad".

Pregunta: ¿Alguien sabe algo sobre:

  • ¿qué condiciones de regularidad se requieren para que se cumpla la hipótesis inversa, es decir, que todo estimador admisible es el estimador de Bayes para alguna prioridad?
  • y/o existen (buenos) contraejemplos de modelos estadísticos en los que los estimadores admisibles (razonables) son no Estimadores de Bayes para cualquier ¿elección de la prioridad?

Mi opinión es que cualquier contraejemplo podría tener algo que ver con El gobierno de Cromwell En concreto, porque es bien sabido que los antecedentes que violan la regla de Cromwell reducen artificialmente el "tamaño efectivo del modelo". Por lo tanto, si tuviéramos algún modelo para el que, por alguna razón, todos los valores a priori tuvieran que violar la regla de Cromwell, parecería concebible que pudiera haber contraejemplos (razonables).

Como problema de deberes teníamos que demostrar esta inversa en un caso muy limitado: para los priores que no violan la regla de Cromwell, y para un finito espacio de parámetros. Sin embargo, creo que la restricción a un espacio de parámetros finito no era esencial, sino sólo para evitar que tuviéramos que hacer análisis convexo en espacios vectoriales de dimensión infinita, ya que el análisis funcional no figuraba como prerrequisito para el curso. Dicho esto, no todos los espacios vectoriales de dimensión infinita son espacios de Banach para los que se aplican las generalizaciones del análisis convexo, por lo que es posible que podamos/debamos esperar que existan contraejemplos, pero si existen, también debemos esperar que tengan espacios de parámetros infinitos.

EDITAR: Basado en esta respuesta Otra conjetura que tengo es que podrían existir contraejemplos para un modelo en el que todos los priores tienen un riesgo de Bayes infinito por alguna razón -- ¿tal vez un modelo de Cauchy?

2 votos

En cuanto a su metapregunta: si la marca como [self-study] estarías diciendo que quieres pistas, pero que quieres resolver esto solo; si no lo haces, estás diciendo que quieres que alguien te responda directamente. Como esto no es una tarea, el [self-study] no es obligatoria.

0 votos

@Tim Oh OK - sí, no me importa en absoluto si alguien sólo da una pista o dice la respuesta completa - ambos serían interesantes para mí.

10voto

Lev Puntos 2212

Algunos resultados sobre Bayes y la admisibilidad:

  1. Si el riesgo de Bayes es finito, existe un estimador de Bayes admisible, mientras que si el riesgo de Bayes es infinito no hay razón para que el estimador o estimadores de Bayes asociados sean admisibles. No se me ocurre un caso en el que todos los priores tengan un riesgo de Bayes infinito, ya que el conjunto de priores contiene masas de Dirac
  2. [clase completa] Si un estimador es admisible y el conjunto de parámetros $\Theta$ es finito, entonces este estimador es Bayes
  3. [Teorema de Blyth] Si $\Theta$ es abierta, si la función de riesgo $R(\theta,\delta)$ es continua en $\theta$ y si $\delta$ es un límite de los estimadores de Bayes en el sentido de que $$\lim_n\dfrac{R(\pi_n,\delta)-\min_\xi R(\pi_n,\xi)}{\pi_n(\Theta)}=0$$ entonces el estimador $\delta$ es admisible
  4. [Teorema de Stein] Si el soporte de la densidad muestral $f(\cdot|\theta)$ no depende de $\theta$ si la función de pérdida $L(\theta,d)$ es continua y estrictamente convexa en d para cada $\theta$ y diverge en el infinito, entonces todo estimador admisible es un límite de los estimadores de Bayes, correspondiente a los priores sobre un conjunto finito
  5. El estimador de máxima verosimilitud de la media en el problema de la media normal, $x\sim \mathcal{N}(\theta,1)$ , $\delta_0(x)=x$ es admisible bajo pérdida de error cuadrático, mientras que no Bayes bajo pérdida cuadrática sino sólo Bayes generalizado
  6. [Duanmu y Roy, 2016] Para familias exponenciales, bajo condiciones adecuadas, todo estimador admisible es Bayes generalizado.
  7. [Farrell, 1968] "En los problemas de comprobación de hipótesis estadísticas, existen ejemplos de pruebas admisibles que no pueden ser procedimientos de Bayes generalizados. Aunque creemos que lo mismo ocurre con algunos problemas de estimación, no tenemos un ejemplo concluyente de un estimador admisible que no sea un estimador generalizado de Bayes."

(Todas las declaraciones, excepto la 6, están disponibles en mi libro así como Jim Berger y Peter Hoff 's.)

Después de indagar un poco más, encontré estos dos ejercicios en el libro de Larry Brown Fundamentos de las familias exponenciales estadísticas :

Exercise 4.17.1, Larry Brown's Fundamentals of Statistical Exponential Families

Exercise 4.17.1, Larry Brown's Fundamentals of Statistical Exponential Families

2 votos

Esto es definitivamente un comienzo útil. ¿Tienes una referencia para la tercera afirmación? En mi curso probamos las dos primeras, pero la tercera es completamente nueva para mí y me interesaría investigarla más.

2 votos

Si no recuerdo mal, ese comentario se escribió cuando sólo había tres elementos en la lista, y sólo el tercer elemento abordaba la dirección de "admisible -> Bayes". Está claro que hubo actualizaciones posteriores, pero al no haber recibido ninguna notificación de nuevas respuestas o contestaciones, no tenía ni idea de que se produjeran esas actualizaciones y nunca se me ocurrió comprobarlas.

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X