He estado trabajando en un problema(minimización alternativa) en el que quiero establecer una desigualdad en la que estoy atascado.
Un $\alpha$ - La versión parametrizada de la divergencia (Kullback-Leibler) tiene la siguiente forma:
$$I_{\alpha}(P,Q)=\frac{1}{\rho}\log\left[\frac{h(Q)^{1-\alpha}}{h(P)}\sum_{a\in A}P(a)Q(a)^{\alpha-1}\right] $$ donde $\alpha=\frac{1}{1+\rho}, \rho>0$ y dejo que $h(P)=\left(\sum P(a)^{\alpha}\right)^{\frac{1}{\alpha}}$ , $A$ es un conjunto finito y $P, Q$ son distribuciones en $A$ .
Por la desigualdad de Holder he demostrado que $\sum_{a\in A}P(a)Q(a)^{\alpha-1}\ge h(Q)^{\alpha-1}h(P)$ . Así que $I_{\alpha}(P,Q)\ge 0$ y es $0$ si $P=Q$ .
El problema es el siguiente:
Dejemos que $P$ sea una distribución y $E$ sea un conjunto cerrado y convexo. Sea $I_{\alpha}(P,Q^*)=\min_{Q\in E}I_{\alpha}(P,Q)$ .
Quiero establecer $I_{\alpha}(P',P)+I_{\alpha}(P',Q')\ge I_{\alpha}(P',Q^*)$ para cualquier $P'$ y cualquier $Q'\in E$ .
La forma equivalente de la ineq. anterior es $$\frac{h(P)^{1-\alpha}}{h(P')}\sum_{a\in A}P'(a)P(a)^{\alpha-1}\cdot \frac{h(Q')^{1-\alpha}}{h(P')}\sum_{a\in A}P'(a)Q'(a)^{\alpha-1}\ge \frac{h(Q^*)^{1-\alpha}}{h(P')}\sum_{a\in A}P'(a)Q^*(a)^{\alpha-1}$$
Imre Csiszar ha demostrado la misma desigualdad para la divergencia de Kullback Leibler en la que emplea un argumento derivado. Cuando hago algo similar obtengo lo siguiente:
Dejemos que $Q_t=(1-t)Q^*+tQ'\in E, 0\le t\le 1$ . Entonces $$0\le \frac{1}{t}\left[I_{\alpha}(P,Q_t)-I_{\alpha}(P,Q^*)\right]=\left[\frac{d}{dt}I_{\alpha}(P,Q_t)\right]_{t=\tilde{t}}, \quad 0<\tilde{t}\le t$$
Como $t\to 0$ Me sale lo siguiente: $$\frac{1}{h(Q^*)^{\alpha}}\sum_{a\in A}P(a)Q^*(a)^{\alpha-1}. \sum_{a\in A}Q'(a)Q^*(a)^{\alpha-1}\ge \sum_{a\in A}P(a)Q'(a)Q^*(a)^{\alpha-2}$$ No sé cómo utilizar esto para demostrar la desigualdad deseada. ¿Alguien puede ayudar? Puedes consultar el libro de Csiszar sobre Teoría de la información y estadística - un tutorial página nº 445-446, disponible aquí http://www.nowpublishers.com/product.aspx?product=CIT&doi=0100000004
Actualización 14 de septiembre.
Si denoto $\frac{P'(a)}{h(P')}$ 's por $a_i$ , $\frac{P(a)}{h(P)}$ 's por $b_i$ , $\frac{Q'(a)}{h(Q')}$ 's por $c_i$ y $\frac{Q^{\star}(a)}{h(Q^{\star})}$ 's por $d_i$ entonces a , b , c , d son vectores cuyo $\alpha$ La norma es $1$ . El problema se resolvería si mostramos lo siguiente. $$\min_{\|a\|_{\alpha}=1}\sum_{i=1}^n a_i b_i^{\alpha-1}.\sum_{i=1}^n a_i c_i^{\alpha-1}-\sum_{i=1}^n a_i d_i^{\alpha-1}\ge \sum_{i=1}^n b_i d_i^{\alpha-1}. \sum_{i=1}^n c_i d_i^{\alpha-1}-\sum_{i=1}^n b_i c_i d_i^{\alpha-2}$$ ya que el lado derecho es $\ge 0$ .
