¿Aprendizaje de tuplas desordenadas?

Question

EDIT: he reducido mi problema más específico de la pregunta: http://math.stackexchange.com/questions/26573/ Pero todavía estoy interesado en las ideas de otros.

Digamos que nuestra información es generada por

$$Y_i = f(X_i) + \epsilon_i$$

donde $X_i$ se observan los vectores, y $f$ es una función desconocida. Sabemos que $f$ es invariante con respecto a la permutación de los elementos de $X$. Por ejemplo, si $X_i=[x_{i1},x_{i2},x_{i3}]$, luego tenemos

$$ f([x_{i1},x_{i2},x_{i3}]) = f([x_{i1},x_{i3},x_{i2}]) = f([x_{i2},x_{i1},x_{i3}])=\cdots $$

Hay versiones modificadas de la regresión lineal, máquinas de soporte vectorial, bosques, etc. que puede ser utilizada para estimar el $f$? Estoy especialmente interesado en el caso de $X_i$ son los autovalores de las matrices (por lo que tienen complejo de valores de las entradas).

EDIT: UNA movida desesperada sería hacer repeticiones de cada punto de datos con todas las permutaciones de cada una de las $X_i$ vectores y, a continuación, aplicar métodos estándar, pero esto es claramente computacionalmente impracticable.

Answer 1

Para los modelos de regresión, una forma sería la de generar las variables derivadas que son invariantes a la permutación de etiquetado de la $x_i$s.

E. g. en sus tres variables ejemplo, considerando solo los polinomios de orden total hasta 3, combinaciones serían:

• $w_1 = x_1 + x_2 + x_3$
• $w_2 = x_1x_2 + x_1x_3 + x_2x_3$
• $w_3 = x_1^2 + x_2^2 + x_3^2$
• $w_4 = x_1x_2x_3$
• $w_5 = x_1^2x_2 + x_1^2x_3 + x_2^2x_1 + x_2^2x_3 + x_3^2x_1 + x_3^2x_2$
• $w_6 = x_1^3 + x_2^3 + x_3^3$

Entonces, usted puede usar cualquier forma de regresión que incluye algunas de las funciones $f(a_1w_1 + a_2w_2 + \cdots + a_8w_8)$, y encontrar los valores de las $a_i$s por los no-lineal de los mínimos cuadrados, la generalización de modelos lineales o de otros métodos. La combinación de $a_1w_1 + a_2w_2 + \cdots + a_8w_8$ se ajusta a una superficie de respuesta que un polinomio de orden 3 que es simétrica en la permutación de $x_1, x_2, x_3$.

Claramente habría muchas más posibilidades si desea permitir que las demás funciones de polinomios tales como registros, las fracciones de poderes...

(EDICIÓN he terminado este post, antes de la vi edición de la respuesta con el enlace a la más específica de la pregunta en mathoverflow. Yo había empezado a pensar que debe haber algún marco matemático para el listado de todos los polinomios de un determinado importe total del pedido, pero parece que ya saben más que yo sobre el área de las matemáticas!)

Answer 2

Para agregar a la respuesta de onestop, fue confirmada en math.SE que los polinomios

$$w_1 = x_1 + \cdots + x_n$$ $$w_2 = x_1^2 + \cdots + x_n^2$$ $$\cdots$$ $$w_n = x_1^n + \cdots + x_n ^n$$

darle toda la información necesaria para determinar el % original $X=(x_1, \cdots, x_n)$.

Este es un resultado prolijo porque también se aplica a los momentos de una distribución discreta con probabilidad uniforme.