Grados de libertad en la regresión lineal simple

Question

¿Por qué los grados de libertad de la regresión lineal simple $n-2$ ?

Específicamente mirando una hipótesis $t$ -prueba para determinar si existe una relación entre la única variable independiente, $x$ y la variable dependiente $y$ .

Supongo que será $n-k$ donde $k = 1$ en el caso de que utilicemos la pendiente de la ecuación de regresión lineal simple como parámetro.

Answer 1

Es cierto que los grados de libertad son $n-k$ Sin embargo, en la regresión lineal simple se estima tanto la intersección como la pendiente, por lo que $k=2$ . Aunque por lo general no nos preocupamos de probar el intercepto, todavía utiliza un grado de libertad, la pendiente sería muy diferente y tendría una interpretación muy diferente si no estimamos un intercepto junto con la pendiente.

Answer 2

Si nuestro modelo es $y_{i} = \beta_{0} + \beta_{x}x_{i} + \varepsilon_{i}$ y queremos probar, por ejemplo, $H_{0}: \beta_{x} = 0$ frente a la alternativa $\beta_{x} \ne 0$ ... necesitamos un presupuesto: $\hat{\beta}$ .

$$\hat{\beta} = \frac{\sum_{i=1}^{n}{\left(x_{i} - \bar{x}\right)\times \left(y_{i} - \bar{y}\right)}}{\sum_{i=1}^{n}{\left(x_{i} - \bar{x}\right)^{2}}}$$

Obsérvese que para obtener $\hat{\beta}$ necesitamos una estimación de dos cantidades: $\mu_{x}$ y $\mu_{y}$ que tenemos en $\bar{x}$ y $\bar{y}$ . Perdemos un grado de libertad para cada una de estas estimaciones.