Distribución posterior de la regresión lineal bayesiana

Question

He estado investigando el uso de la regresión lineal bayesiana, pero he llegado a un ejemplo en el que estoy confundido.

Dado el modelo:

$${\bf y} = {\bf \beta}{\bf X} + \bf{\epsilon} $$

Suponiendo que ${\bf \epsilon} \sim N(0, \phi I)$ y un $p(\beta, \phi) \propto \frac{1}{\phi}$ ,

¿Cómo es $p(\beta|\phi, {\bf y})$ ¿alcanzado?

Dónde: $p(\beta|\phi, {\bf y}) \sim N({\bf X}^{\text{T}}{\bf X})^{-1}{\bf X}^{\text{T}}{\bf y}, \phi ({\bf X}^{\text{T}}{\bf X})^{-1})$ .

Answer 1

A tu fórmula final le falta un paréntesis izquierdo.

Este es un problema estándar que no requiere ningún trabajo difícil. La página de wikipedia sobre Regresión bayesiana resuelve un problema más difícil; deberías poder usar el mismo truco (que es básicamente una forma de completar el cuadrado, ya que lo quieres en términos de $(\beta - m)' V^{-1} (\beta - m)$ para algunos $m$ y $V$ ), con menos términos de los que preocuparse. Es decir, se llega a algo así:

\begin {align}( \mathbf {y}- \mathbf {X} \boldsymbol\beta )^{ \rm T}( \mathbf {y}- \mathbf {X} \boldsymbol\beta )&= ( \boldsymbol\beta - \hat { \boldsymbol\beta })^{ \rm T}( \mathbf {X}^{ \rm T} \mathbf {X})( \boldsymbol\beta - \hat { \boldsymbol\beta }) + \mathbf {S} \end {align}

donde

\begin {align} \mathbf {S} = ( \mathbf {y}- \mathbf {X} \hat { \boldsymbol\beta })^{ \rm T}( \mathbf {y}- \mathbf {X} \hat { \boldsymbol\beta }) \end {align}

en el exponente.

Véase también las referencias en el artículo de la wikipedia.

Si es para alguna asignatura, márquela como tarea.