Regresión logística sobre 2 círculos concéntricos

Question

Si tenemos 2 círculos concéntricos de diferente radio y los puntos del mismo círculo corresponden a la misma clase de datos, entonces podemos modelar este problema para resolverlo mediante regresión logística. No creo que podamos ya que los puntos de datos no son linealmente separables.

Answer 1

En la práctica, sí, puede.

Digamos que los círculos son de radio $\frac{1}{\sqrt{2}}$ y $\sqrt{\frac{3}{2}}$ para que sea más fácil de seguir (*).

A continuación, la siguiente forma funcional funciona cuando se hace un umbral para clasificar los puntos:

$$ P(y | x_1, x_2) = \frac{1}{1 + \text{exp}(x_1^2 + x_2^2 - 1)} $$

En el círculo de radio medio:

$$ P(y | x_1, x_2) = \frac{1}{1 + \text{exp}(x_1^2 + x_2^2 - 1)} = \frac{1}{1 + \text{exp}(-0.5)} > 0.5$$

En el círculo de radio tres mitades

$$ P(y | x_1, x_2) = \frac{1}{1 + \text{exp}(x_1^2 + x_2^2 - 1)} = \frac{1}{1 + \text{exp}(0.5)} < 0.5$$

Así que si el umbral de las predicciones probabilísticas en $0.5$ lo clasificarás correctamente.

Tenga en cuenta que hacer necesita añadir algunas características derivadas, en este caso los cuadrados de las coordenadas. Esto es muy común en la práctica para tratar este tipo de situaciones.

(*) Obsérvese que esto no es realmente una restricción, siempre se pueden escalar las coordenadas de forma que se mapeen dos círculos concéntricos cualesquiera para esta situación específica.