Derivado de la función sigmoidea $ \sigma (x) = \frac {1}{1+e^{-x}}$

Question

En mi libro de texto de la IA hay este párrafo, sin ninguna explicación.

La función sigmoidea se define de la siguiente manera

$$ \sigma (x) = \frac {1}{1+e^{-x}}$$

Esta función es fácil de diferenciar porque

$$ \frac {d \sigma (x)}{d(x)} = \sigma (x) \cdot (1- \sigma (x))$$

Hace mucho tiempo que no tomo ecuaciones diferenciales, ¿alguien podría decirme cómo pasaron de la primera a la segunda ecuación?

Answer 1

Diferenciando directamente:

$$ \sigma^{'} (x)= \frac{1. e^{-x}}{(1+e^{-x})^2} $$

Computar por separado, multiplicar:

$${\sigma(x)}.{(1-\sigma(x))} =\frac{ e^{-x}}{(1+e^{-x}) } . \frac{ 1}{(1+e^{-x}) }$$

Los RHS están de acuerdo.

EDIT1:

En general, una solución de la ecuación diferencial

$$ \frac{dy}{dx}=y(1-y) $$

puede ser visto como

$$\frac{1}{1+c e^{-x}} \rightarrow \frac{1}{1+ e^{-x}} $$

con la constante de integración del punto central evaluada en $x=0, y=\frac12;\, c=1. $

Answer 2

La respuesta aún no implica el logaritmo. Si $\log$ denota el logaritmo natural entonces por la regla de la cadena $$\frac{d}{dx} \log(\sigma(x)) = \frac{1}{\sigma(x)}\frac{d \sigma(x)}{dx}. $$ Además $\log(\sigma(x))=\log(e^x) -\log(1+e^x)=x - \log(1+e^x)$ para que $$\frac{d}{dx} \log(\sigma(x)) = 1 - \frac{e^x}{1+e^x} = 1-\sigma(x).$$ Al igualar las dos pantallas se obtiene $(d/dx)\sigma(x) = \sigma(x)(1-\sigma(x))$ como se desee.

Answer 3

Otro enfoque que utiliza la regla del cociente es el siguiente:

dejar $\sigma=\frac{1}{1+e^-x}$ al reordenar ,

$\sigma=\frac{e^x}{1+e^x}$

utilizando la regla del cociente

$\frac{d}{{dx}}\left( {\frac{{f\left( x \right)}}{{g\left( x \right)}}} \right) = \frac{{\frac{d}{{dx}}f\left( x \right)g\left( x \right) - f\left( x \right)\frac{d}{{dx}}g\left( x \right)}}{{g^2 \left( x \right)}}$ ,

dejar $f(x)=e^x$ y $g(x)=1+e^x$ ,

obtenemos $\frac{d\sigma}{dx}=\frac{(e^x)(1+e^x)-e^xe^x}{(1+e^x)^2}$

al reordenar, obtenemos :

$\frac{d\sigma}{dx}=\frac{e^x}{1+e^x}\frac{(1+e^x)-e^x}{1+e^x}$

tras la reordenación:

$\frac{d\sigma}{dx}=\frac{e^x}{1+e^x}(1-\frac{e^x}{1+e^x})$

$\frac{d\sigma}{dx}=\sigma(1-\sigma)$

Answer 4

Utilizando mi HP Prime, he diferenciado 1/(1+exp(-x)) para obtener exp(-x)/(1+exp(-x))^2. Factorice 1/(1+exp(-x), que es sigma(x), y el resto es 1-sigma(x). Esto es una prueba con calculadora. Cuidado. Esa máquina puede volverse adictiva por la forma en que amplía su capacidad.