Normalización de los rasgos no normales

Question

Supongamos que tenemos varias características (por ejemplo $\geq20$ ) que no siguen un Distribución gaussiana . ¿Tenemos que preocuparnos de que las características no sigan una distribución gaussiana si aplicamos la normalización a los datos?

Es decir, aunque las características no sigan una distribución normal inicialmente, ¿no se hace que sigan una distribución gaussiana después de la normalización con media $0$ y la varianza $1$ ?

Answer 1

La respuesta corta: sí, debe preocuparse de que la distribución de sus datos no sea normal, porque la normalización no transforma la estructura de distribución subyacente de los datos. Si $X\sim\mathcal{N}(\mu, \sigma^2)$ entonces se puede transformar en una normal estándar mediante la estandarización: $Y:=(X-\mu)/\sigma \sim\mathcal{N}(0,1)$ . Sin embargo, esto es posible porque $X$ ya sigue una distribución normal en primer lugar. Si $X$ tiene una distribución distinta a la normal, la estandarización de la misma manera que la anterior generalmente no hará que los datos se distribuyan normalmente.

Un ejemplo sencillo de datos distribuidos exponencialmente y su versión normalizada:

x <- rexp(5000, rate = 0.5)
y <- (x-mean(x))/sd(x)
par(mfrow = c(2,1))
hist(x, freq = FALSE, col = "blue", breaks = 100, xlim = c(min(x), quantile(x, 0.995)),
     main = "Histogram of exponentially distributed data X with rate = 0.5")
hist(y, freq = FALSE, col = "yellow", breaks = 100, xlim = c(min(y), quantile(y, 0.995)),
     main = "Histogram of standardized data Y = ( X-E(X) ) / StDev(X)")

Ahora, si comprobamos la media y la desviación estándar de los datos originales $x$ obtenemos

c(mean(x), sd(x))
[1] 2.044074 2.051816

mientras que para los datos normalizados $y$ los resultados correspondientes son

c(mean(y), sd(y))
[1] 7.136221e-17 1.000000

Como se puede ver, la distribución de los datos tras la normalización es decididamente no normal, aunque la media sea (prácticamente) 0 y la varianza 1. En otras palabras, si las características no siguen una distribución normal antes de la estandarización, tampoco la seguirán después de la misma.