Cómo encontrar +/-incertidumbre con una regresión de mínimos cuadrados

Question

Tengo un conjunto de puntos de datos con una incertidumbre en cada punto. Desde estos puntos de datos puedo ajustar una línea, que es lo que la pendiente es un valor significativo. ¿Cómo utilizo la información que tengo para obtener una estimación en $\sigma$ de mi valor final? Todo lo puedo encontrar online es información en $R^2$ y $\chi ^2$. Puntos de bonificación si hay una manera fácil de hacerlo en python/numpy/scipy.

Answer 1

Considerar un lineal estimador $\mathbf{\hat{y}} = \mathbf{X\theta}$ dotado regresión lineal $\mathbf{\theta} = (\mathbf{X^\top X})^{-1}\mathbf{X}^\top \mathbf{y}$.

Si $\mathbf{C}_y = \mathrm{diag}(\sigma_1^2,\sigma_2^2,\ldots,\sigma_m^2)$ es la covarianza de las observaciones $\mathbf{y}$, la covarianza para $\mathbf{\theta}$ viene dado por (véase el lema):

$\mathbf{C}_\theta = (\mathbf{X^\top X}) ^ {-1} \mathbf {X ^ \top C} _y \mathbf{X}(\mathbf{X^\top X}) ^ {-1}$$

Lemma

La covarianza de un mapeo lineal $\mathbf{y} = \mathbf{Ax} + \mathbf{b}$ es $\mathbf{C}_y = \mathbf{AC}_x\mathbf{A^\top}$ $\mathbf{C}_x$ la covarianza para $\mathbf{x}$.