Andrew Ng utilizó el término "regresión logística" como modelo para resolver el problema de clasificación binaria.
Como ya han visto en el papel en realidad nunca dibuja el modelo en sí.
Permítanme añadir algunos detalles al cubo para que puedan encontrar el razonamiento sobre cómo creo que construyó las conferencias.
El modelo utilizado para la "regresión logística" es una percepción de un solo nivel con un número personalizado de entradas y una salida que va de 0 a 1.
En los años 90 la función de activación más apreciada era la función de activación sigmoidal, y existe una gran teoría matemática como respaldo.
Este es exactamente el modelo que utiliza Andrew Ng, ya que esa función va de 0 a 1.
También la derivada s'(x) = s(x)(1−s(x))
, donde s(x)
es la función de activación sigmoidal.
Para la función de error utiliza L2, aunque en algunos trabajos puede utilizar alguna otra función para ello.
Así que para recapitular, al considerar la "regresión logística" sólo hay que tener en cuenta la percepción de un solo nivel con función de activación sigmoidal, número personalizado de entradas y una sola salida.
Sólo unas pocas notas: No hay nada malo con la función de activación sigmoidal, aunque para la aritmética de punto flotante, ReLU domina las capas ocultas hoy en día, pero en un futuro próximo posits (o algunas otras unidades aritméticas) puede poner la función de activación sigmoidal de nuevo en la mesa.
Personalmente, utilizaría un modelo más sencillo con la función ReLU para explicar el SLP (perceptrón de un solo nivel) ya que es más utilizado hoy en día.