¿Podemos absorber la función de partición en el vector de parámetro natural?

Question

Dado un aumento exponencial de la familia de distribución de la forma

$$ f_X(x)=h(x)e^{\phi(\theta)^TT(x)-A(\theta)} $$

con natural parámetro $\eta=\phi(\theta)$, suficiente estadística $T(x)$, y de registro de la función de partición $A(\theta)$. Podemos absorber la $-A(\theta)$ plazo en el natural vector de parámetros mediante la concatenación:

$$ \phi'(\theta)=\left[\begin{array}{c}\phi(\theta)\\A(\theta)\end{array}\right],\quad T'(x)=\left[\begin{array}{c}T(x)\\-1\end{array}\right] $$

para que el registro de la partición término desaparece. Sabemos que podemos calcular $\mathbb{E}[T'(x)]=\nabla_{\eta'}A'(\theta)$. Desde $A'(\theta)=0$, esto significaría que a $\mathbb{E}[T'(x)]=[0,0,\cdots,0]^T$ para todas las distribuciones en el exponencial de la familia, que parece incorrecto. ¿Cuál es el problema aquí?

Answer 1

La definición del registro de la función de partición, $$A(\theta) = \log \int h(x) \exp\{\phi(\theta)^T T(x) \}dx $$ deja en claro que, dada fijo de funciones $h(x)$$T(x)$, $A(\theta)$ está totalmente determinado por $\phi(\theta)$. En su segundo parametrización donde se haya absorbido el logaritmo de la función de partición a la natural vector de parámetros, la dimensión de la $\theta$ es uno menos que la dimensión de $\phi'(\theta) = [\phi(\theta), -A(\theta)]$. Por lo tanto, el espacio posible de la natural vector de parámetros $\phi'(\theta)$ (el natural espacio de parámetros) no es un conjunto abierto: se trata de una curva. Como se indicó en el comentario de @user2939212, la identidad de $\nabla A(\theta) = \mathbb{E}[T(x)]$ sólo aplica en el caso de los naturales del espacio de parámetros es un conjunto abierto (y por lo tanto la familia es regular).

Casos en que la dimensión del vector de parámetros $\theta$ es menor que la dimensión de la natural vector de parámetros se denomina curva exponencial de las familias. Por ejemplo, una Gaussiana$(\mu, \sigma^2)$ donde $\sigma = |\mu| = \theta$ es una curva exponencial de la familia: el natural vector de parámetros es $$\eta(\theta) = [\theta^{-1},-0.5\theta^{-2}].$$ The space spanned by $\eta(\theta)$ es una parábola, no es un conjunto abierto.