Maximización de la información mutua de un canal de desvanecimiento con ruido gaussiano aditivo

Question

Estoy considerando un problema tal que tenemos un canal $Y=XV+Z$. Suponiendo que $X,V,Z$ sean todos independientes

Donde $$Z \sim \mathcal{N}(0, N)$$

y $$ V=\begin{cases} \alpha_1, & p\\ \alpha_2, & (1-p) \end{cases} $$

Con Restricción de Potencia $E[X^2] \le P$

Aquí está el enfoque que he utilizado para intentar maximizar la información mutua:

\begin{align} I(X;Y) &= h(Y) - h(Y|X)\\ &= h(Y)- h(XV+Z|X)\\ &\le h(Y) - h(XV+Z|X,V)\\ &=h(Y) - p \ h(\alpha_1X+Z|X,V=\alpha_1) - (1-p)\ h(\alpha_2X+Z|X,V=\alpha_2)\\ &= h(Y) - p\ h(Z) - (1-p)\ h(Z)\\ &= h(Y) - h(Z) \end{align}

Luego $h(Y)$ se maximiza para $Y$ gaussiano.

\begin{align} Var(Y) &= Var(XV+Z)\\ &= Var(XV) + Var(Z)\\ &\le \sqrt{Var(X)Var(V)} + E[Z^2] &(\text{Cauchy-Shwarz})\\ &\le \sqrt{PVar(V)} +N \end{align}

Luego mi cota superior en la información mutua es

\begin{align} I(X;Y) \le \frac{1}{2}log\bigg(1+ \frac{\sqrt{PVar(V)}}{N}\bigg) \end{align}

lo cual supongo que se maximiza cuando $X \sim \mathcal{N}(0,P)$.

Pregunta: ¿Es este el enfoque correcto para encontrar el máximo?

Típicamente, he visto canales de desvanecimiento con factores de multiplicación determinísticos, así que quería considerar un problema donde el factor multiplicativo sea una variable aleatoria.

Answer 1

Comentario extendido.

Tu intento tiene los siguientes problemas:

1. la aplicación de la desigualdad de Cauchy es incorrecta.

2. $Y$ no puede ser Gaussiana incluso con $X$ Gaussiana (es una mezcla de Gaussianas en ese caso).

3. (El más importante) ¿Estás seguro de que condicionar la entropía de una variable aleatoria real con distribución arbitraria reduce su entropía en este caso? "La condicionante reduce la entropía" es válido para variables de valores discretos, pero no siempre para variables de valores reales. La forma en que empleas esta desigualdad sugiere que has hecho algún supuesto sobre la distribución de $X$ (de tal manera que la desigualdad efectivamente se cumple). Sin embargo, al hacerlo, te estás restringiendo a ti mismo a una distribución específica de $X$ y no puedes afirmar que estás calculando un límite superior universal. Estás calculando únicamente un límite superior para esa distribución específica de $X$.