¿Por qué se llama así a la función softmax?

Question

Entiendo que la función "aplasta" un espacio vectorial real entre los valores 0 y 1.

Sin embargo, no veo qué tiene esto que ver con la función "max", o por qué eso la convierte en una versión "más suave" de la función max.

Answer 1

Siempre pensé que se llamaba softmax porque es diferenciable ("suave") en todos los puntos para todos los elementos del vector de entrada. Esta explicación sería análoga a lo que hace que la función softplus ,$f(x) = \ln(1 + e^x)$, la versión "suave" de$f(x) = \max(0, x)$