¿Por qué es ReLU configuración de valores negativos a cero en particular?

Question

Quiero entender la lógica detrás de mantener ReLU como $max(0,x)$ e no $min(0,x)$?

¿Por qué preferimos insumos positivos sobre los negativos?

Answer 1

Los pesos aprendido en una red neuronal puede ser tanto positivo como negativo. Así, en efecto, la forma de trabajo. La negación de la entrada y salida de pesas con la $\min$ forma le otorga la misma función que con el $\max$ formulario. El max formulario se utiliza exclusivamente por la convención.