¿Son necesarias la normalización de la media y el escalado de características para el clustering de k-means?

Question

¿Cuáles son los mejores pasos de preprocesamiento (recomendados) antes de realizar k-means?

Answer 1

Si sus variables son de unidades incomparables (por ejemplo, la altura en cm y el peso en kg), debe estandarizar las variables, por supuesto. Incluso si las variables son de las mismas unidades pero muestran varianzas bastante diferentes, sigue siendo una buena idea estandarizar antes de K-means. Verá, el clustering de K-means es "isotrópico" en todas las direcciones del espacio y por tanto tiende a producir clusters más o menos redondos (en lugar de alargados). En esta situación, dejar las varianzas desiguales equivale a dar más peso a las variables con menor varianza, por lo que los clusters tenderán a separarse a lo largo de las variables con mayor varianza.

Otra cosa que vale la pena recordar es que los resultados del clustering de K-means son potencialmente sensibles al orden de los objetos en el conjunto de datos $^1$ . Una práctica justificada sería ejecutar el análisis varias veces, aleatorizando el orden de los objetos; luego promediar los centros de los clusters correpondientes/mismos entre esas ejecuciones $^2$ e introducir los centros como iniciales para una última ejecución del análisis.

Aquí es un razonamiento general sobre la cuestión de la estandarización de los rasgos en el análisis de conglomerados u otros análisis multivariantes.

---

$^1$ En concreto, (1) algunos métodos de inicialización de centros son sensibles al orden de los casos; (2) incluso cuando el método de inicialización no es sensible, los resultados pueden depender a veces del orden en que se introducen los centros iniciales en el programa (en particular, cuando hay distancias empatadas e iguales dentro de los datos); (3) los llamados medios de ejecución versión del algoritmo k-means es naturalmente sensible al orden de los casos (en esta versión -que no se utiliza a menudo, salvo quizás en la agrupación en línea- el recálculo de los centroides tiene lugar después de que cada caso individual sea reasignado a otro clúster).

$^2$ En la práctica, la correspondencia entre los clusters de diferentes series suele verse inmediatamente por su relativa cercanía. Cuando no se ve fácilmente, la correspondencia puede establecerse mediante una agrupación jerárquica realizada entre los centros o mediante un algoritmo de correspondencia como el húngaro. Pero, para remarcar, si la correspondencia es tan vaga que casi desaparece, entonces los datos o bien no tenían una estructura de clústeres detectable por K-means, o bien K está muy equivocado.

Answer 2

Supongo que depende de sus datos. Si quiere que las tendencias de sus datos se agrupen independientemente de la magnitud, debe centrarlos. Por ejemplo, si tiene un perfil de expresión de genes y quiere ver las tendencias de la expresión de los genes, sin el centrado de la media, los genes de baja expresión se agruparán y se alejarán de los genes de alta expresión, independientemente de las tendencias. El centrado hace que los genes (tanto de alta como de baja expresión) con patrones de expresión similares se agrupen.