Regresión lineal restringida, ¿cómo encontrar la regresión SS?

Question

Estoy tratando de entender el concepto de regresión restringida.

Tengo eso $C\beta=d$ para alguna matriz $C$ $(\times n)$ $\beta (n\times 1)$ y el vector c $d$ . Necesito minimizar con respecto a $\beta$

$(y-X\beta)^T(y-X\beta)-\lambda^T(C\beta-d)$ para encontrar el SS residual.

Encuentro que la beta restringida estimada es $$\hat\beta_c=(X^TX)^{-1}X^Ty+(X^TX)^{-1}C^T(C(X^TX)^{-1}C^T)^{-1}(d-C(X^TX)^{-1}X^Ty)$$ o $$\hat\beta_c=\hat\beta +(X^TX)^{-1}C^T(C(X^TX)^{-1}C^T)^{-1}(d-C\hat\beta)$$

La Residula Constrained SS es: Definición de $P_c=(X^TX)^{-1}C^T(C(X^TX)^{-1}C^T)^{-1}$

$$(y-X\hat\beta)^T(y-X\hat\beta)+(d-C\hat\beta)^TP_c^TX^TXP_c(d-C\hat\beta)$$

Ahora estoy fallando en encontrar el Residual SS

Quiero dividir lo anterior en (restringido) SS total sobre la media = SS de regresión + SS residual

Mi libro dice que si $d=0$ tenemos que $\hat\beta^TX^TX\hat\beta$ es la Regresión SS, pero no entiendo por qué

Answer 1

Obsérvese que a partir de la prueba F se sabe (o simplemente se puede demostrar) que $$ ResSS_r - ResSS_u = (C\hat{\beta} - d )'(C(X'X)^{-1}C)^{-1}(C\hat{\beta} - d). $$ Ahora, recuerda que $SST=ResSS + RegSS$ y para el modelo nulo, es decir, cuando $d=0$ , $SST=ResSS$ porque $\hat{y}=\bar{y}$ . Así que, $$ ResSS_r - ResSS_u = SST - ResSS_u = RegSS_u. $$ Ahora, para el álgebra $$ RegSS_u= (C\hat{\beta} - 0 )'(C(X'X)^{-1}C)^{-1}(C\hat{\beta} - 0) = \hat{\beta}'X'X\hat{\beta}. $$

EDITAR

---

Tenga en cuenta que $H_0: C\beta =d$ . Es decir, se está probando si alguna transformación lineal de los coeficientes es igual a $d$ . $C$ debe ser invertible. Donde $d=0$ se tiene un sistema lineal homogéneo de la forma $C\beta=0$ que está probando usando $C\hat{\beta}$ . Mientras $C$ es invertible, puede estar en formas variadas porque de todos modos se obtendrá sólo la solución trivial, es decir, $\beta=0$ . Que es exactamente lo que pruebas cuando $d=0$ .