¿Cómo entender "no lineal" como en "la reducción no lineal de la dimensionalidad"?

Question

Estoy tratando de entender las diferencias entre los lineales métodos de reducción de dimensionalidad (por ejemplo, PCA) y no lineales (por ejemplo, Isomap).

Yo no acababa de entender lo que la (no)linealidad implica, en este contexto. Leo en Wikipedia que

Por la comparación, si la PCA (un lineal de reducción de dimensionalidad algoritmo) es utilizarse para reducir este mismo conjunto de datos en dos dimensiones, el resultado los valores no están tan bien organizado. Esto demuestra que el alta dimensión de los vectores (cada una representa una letra 'A') que muestra este colector de variar en un no-lineales.

¿

la alta dimensión de los vectores (cada una representa una letra 'A') que ejemplo de este colector variar en un no-lineales.

significa esto? O, más ampliamente, ¿cómo entiendo la (no)linealidad en este contexto?

Answer 1

Una imagen vale más que mil palabras:

Aquí estamos buscando 1-dimensiones de la estructura en 2D. Los puntos se encuentran a lo largo de una curva con forma de S. PCA intenta describir los datos con un lineales 1-dimensional colector, la cual es simplemente una línea; por supuesto, una línea que se ajusta a estos datos es muy mala. Isomap está buscando una no lineal (es decir, curvas!) 1-dimensiones del colector, y debe ser capaz de descubrir el subyacente en forma de S de la curva.

Answer 2

La reducción de dimensionalidad significa que usted mapa de cada una de las muchas dimensiones del vector en una baja dimensión del vector. En otras palabras, usted representa (reemplazar) en cada una de las muchas dimensiones del vector por una baja dimensión del vector.

Lineal de reducción de dimensionalidad significa que los componentes de baja dimensión del vector dado por lineal de funciones de los componentes de la correspondiente alta dimensión del vector. Por ejemplo, en el caso de la reducción a dos dimensiones tenemos:

[x1, x2, ..., xn] ->  [f1(x1, x2, ..., xn), f2(x1, x2, ..., xn)]

Si f1 y f2 son (no)de las funciones lineales, tenemos una (no)lineal de reducción de dimensionalidad.