64 votos

¿Cuáles son las alternativas del descenso gradual?

El descenso gradual tiene el problema de quedarse atascado en los mínimos locales. Tenemos que ejecutar el descenso de gradiente exponencialmente para encontrar los mínimos globales.

¿Puede alguien informarme sobre alguna alternativa de descenso de gradiente aplicada al aprendizaje de redes neuronales, junto con sus pros y sus contras?

5voto

user42768 Puntos 45

Máquinas de aprendizaje extremo Esencialmente, son una red neuronal en la que los pesos que conectan las entradas con los nodos ocultos se asignan al azar y nunca se actualizan. Los pesos entre los nodos ocultos y las salidas se aprenden en un solo paso resolviendo una ecuación lineal (matriz inversa).

i-Ciencias.com

I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.

Powered by:

X