¿El estimador del núcleo de Gauss como el estimador de Nadaraya-Watson?

Question

Estoy trabajando en un problema de "Los elementos del aprendizaje estadístico" (prob. 6.8):

Supongamos que para una respuesta continua $Y$ y predictor $X$ modelamos el La densidad de las articulaciones de $X, Y$ usando un núcleo gaussiano multivariado estimador. Note que el núcleo en este caso sería el núcleo del producto $ \phi_ { \lambda }(X) \phi_ { \lambda }(Y)$ .

a) Mostrar que la media condicional $E(Y|X)$ derivado de esta estimación es un Estimador Nadaraya-Watson.

b) Ampliar este resultado a la clasificación proporcionando un núcleo adecuado para la estimación de la distribución conjunta de un continuo $X$ y discreto $Y$ .

Sé que el estimador de Nadaraya-Watson es sólo el promedio ponderado (ecuación 2,41 y 6,2 en ESL):

$$ \hat f (x_0) = \frac { \sum_ {i=0}^N K_{ \lambda }(x_0, x_i) y_i}{ \sum_ {i=0}^N K_{ \lambda }(x_0, x_i)}$$

Donde $K$ en este caso sería la función multivariante del núcleo gaussiano.

Puedo pensar en cómo extender esto a un problema de clasificación, pero no estoy seguro de cómo abordar la primera parte de esta cuestión.

¡Cualquier consejo sería muy apreciado!

Answer 1

La media condicional se define por:

$$E(Y|X)\equiv\int y f(y|x) dy$$

Dónde $f(Y|X)$ es la densidad condicional. Usando la regla del producto, se puede demostrar:

$$f(y|x)=\frac{f(y,x)}{f(x)}$$

Sustituyendo esto de nuevo en la integral se obtiene

$$E(Y|X)\equiv\frac{\int y f(y,x) dy}{f(x)}$$

Que es de la forma que buscas, si utilizas el estimador de densidad kernel.