Clasificación predictiva cuando sólo se pueden observar los rangos

Question

Estoy participando en un reto de clasificación (las clases son 0 y 1) en el que las entradas están encriptadas (porque son datos financieros caros). Como el cifrado conserva el orden, sólo puedo utilizar el hecho de que, por ejemplo $$ x_1 > x_2 $$ pero no $$ d = x_1-x_2 $$

Además de los árboles, ¿qué algoritmos de aprendizaje automático proporcionan modelos sólidos en estas circunstancias?

EDIT: Supongo que las redes neuronales, la SVM o la regresión logística no son apropiadas en este escenario ya que utilizan transformaciones lineales $b \cdot x$ que no puedo aplicar ya que no tengo la "estructura numérica" para ello.

EDITAR 2: Me dan datos de la siguiente forma: $$ (0.2,0.1,0.5,0); (0.1,0.2,0.3,1); (0.02,0.7,0.33,1) $$ y miles de filas de ellos (y en mi aplicación más columnas). En este ejemplo las 3 primeras entradas son entradas y la 4ª es el objetivo. Todas las columnas constan de 1001 valores únicos en el rango [0,1]. Así que realmente creo que sólo son posibles las comparaciones.

Lo siento si mi pregunta no fue formulada con suficiente precisión ... Espero que ahora el problema esté más claro.

Answer 1

Para entender mejor el problema creo que vale la pena explicar la idea principal de cómo funciona la criptografía que preserva el orden.

Imaginemos que tenemos un vector de columnas $\mathbf{x}$ de lo que queremos encriptar. La función de encriptación es $f(\cdot)$ y es monótonamente creciente, y potencialmente con pendiente variable.

El texto cifrado de $\mathbf{x}$ es $\mathbf{y}=f(\mathbf{x})$ y tiene las siguientes propiedades

• si $x_1 \geq x_2$ entonces $y_1 \geq y_2$
• si $x_2 = x_2$ entonces $y_2 = y_2$ (esto se suele evitar)
• $d(x_1,x_2) \neq d(y_1,y_2)$
• si $d(x_1,x_2) \geq d(x_3,x_4)$ no da información sobre $d(y_1,y_2)$ y $d(y_3,y_4)$

La segunda propiedad se puede evitar añadiendo ruido a $\mathbf{x}$ . Por ejemplo, si $x_i$ es un número entero entre $[0,9]$ . Entonces, $\hat{\mathbf{x}}=10\times\mathbf{x}+\mathbf{n}$ , donde $\mathbf{n}$ es el vector a de enteros aleatorios entre $[0,9]$ . Esta transformación preserva la ordenación en $\hat{\mathbf{y}}=f(\hat{\mathbf{x}})$ pero elimina la identificación de los atributos con el mismo valor.

Teniendo en cuenta esto, creo que deberías limitarte a los clasificadores basados en árboles, como los bosques aleatorios.

Answer 2

No creo que debas utilizar el orden para predecir el resultado binario, ya que si un modelo entrenado en tus datos se aplica a datos totalmente inéditos que se recogieron de forma ligeramente diferente (no estoy seguro de cómo se recogieron esos datos), entonces va a funcionar muy mal.

Además, estas "características doradas" basadas en el ordenamiento de los datos son a veces el resultado de fugas de datos y usted no quiere entrenar su modelo con esos datos por la razón expuesta anteriormente.