En la regresión lineal bayesiana, ¿por qué suponemos que el parámetro a priori w tiene media cero?

Question

Pregunta probable: En la regresión lineal bayesiana, ¿por qué asumimos que el parámetro a priori tiene media cero? .

---

Pero, Sólo me concentro en podemos asumir $p(w \mid \alpha) = \mathcal{N}(w \mid \mu, \alpha^{-1})$ y la razón de la media cero.

Si la media de $w$ es $\mu$ , deberíamos tener un mínimo de $$\frac{\beta}{2} \sum_{n=1}^N\{y(x_n,w)-t_n\}^2+\frac{\alpha}{2}(w-\mu)^T(w-\mu)$$

para que el resultado no sea Ridge Regression (sólo mi opinión).

Mi pregunta Podemos suponer que $w$ ¿no es cero la media? ¿El resultado de si la media de $w$ ¿el cero conduce a un resultado diferente?

Razón de hacer la pregunta: No he encontrado la respuesta en la pregunta anterior. También quiero saber la razón \ ~ -. sub-significado de asumir una media cero.

---

Este problema es del libro PRML 1.2.5 Revisión del ajuste de las curvas Página 28.

Discúlpate por no ser perfecto en inglés.

Answer 1

Demasiado largo para un comentario, no estoy seguro de que esto constituya una respuesta completa.

Filosóficamente, no hay ninguna razón para no establecer $\mu \ne 0$ . Creo que la razón por la que la gente tiende a usar $\mu = 0$ es que no hay ninguna otra opción natural por defecto. Al establecer $\mu = 0$ , se está encogiendo hacia un modelo en el que $w = 0$ que tiene un aire más parsimonioso. Es decir, nos estamos encogiendo hacia un modelo en el que $w$ no se incluye en el modelo. También hay una especie de argumento de invariancia rotacional: una forma de expresar la ignorancia sobre los predictores es decir que cualquier transformación ortogonal de los predictores debería tener la misma prioridad. Esto implica que debemos tomar $\mu = 0$ y utilizar la covarianza $\Sigma = \alpha^{-1} I$ .