Ajuste por mínimos cuadrados

Question

Esta es la cuestión:

Dada una colección de puntos $(x_1,y_1), (x_2,y_2),\ldots,(x_n,y_n)$ , $x=(x_1,x_2,\ldots,x_n)^T$ , $y=(y_1,y_2,\ldots,y_n)^T$ , $\bar{x}=\frac{1}{n} \sum\limits_{i=1}^n x_i$ , $\bar{y}=\frac{1}{n} \sum\limits_{i=1}^n y_i$ .
Sea $y=c_0+c_1x$ sea la función lineal que proporcione el mejor ajuste por mínimos cuadrados a los puntos. Demuestre que si $\bar{x}=0$ , $c_0=\bar{y}$ et $c_1=\frac{x^Ty}{x^Tx}$ .

He conseguido hacer todos los problemas de este capítulo menos cuadrados pero este me tiene total y absolutamente perplejo. No estoy del todo seguro de lo que la pregunta me está diciendo en términos de información ni entiendo lo que está pidiendo. ¿Alguna idea de por dónde empezar?

Answer 1

Quieres minimizar:

$||\hat{y}-y||^2 = ||(c_0+c_1x)-y||^2$

donde $\hat{y}$ vienen dadas por la regresión lineal. Intuitivamente, la mejor línea minimiza el error al cuadrado entre el ys "observado" y el ys "predicho".

Por lo tanto, es necesario encontrar que $c_0,c_1$ que minimicen esta expresión y demostrar que son iguales a las especificadas anteriormente.

¿Puedes seguir a partir de ahí?

Answer 2

Los estimadores MCO para $c_0$ et $c_1$ en el marco general (sin $\bar x=0$ ) son: $$ c_0=\bar y- c_1\bar x, c_1= \frac{(x-\bar x\boldsymbol{1})^T(y-\bar y\boldsymbol{1})}{(x-\bar x\boldsymbol{1})^T(x-\bar x\boldsymbol{1})}, $$ donde $\boldsymbol{1}=(1,...,1)^T$ es un vector de uno y de longitud $n$ . Con la hipótesis adicional $\bar x=0$ se reduce a $$ c_0=\bar y, c_1= \frac{x^T(y-\bar y\boldsymbol{1})}{x^Tx} $$