Recientemente aprendí el descenso de gradiente y claramente se atasca en mínimos locales cuando se aplica a funciones no convexas.
¿No podemos patear aleatoriamente los valores entre pasos cuando iteramos?
Algo así como un túnel cuántico. Eso aumentaría drásticamente la probabilidad de alcanzar el mínimo global.
{2} menciona a los métodos conocidos:
ITERATIVO HILL-CLIMBING: Este método es el ideado por la combinación de la escalada y la búsqueda aleatoria. Una vez que un pico ha sido encontrado, el pruebas de montaña proceso se repite de nuevo en otro seleccionados al azar ubicación. Esta búsqueda se realiza en forma aislada por lo tanto, no toma en cuenta de la idea general de la forma del dominio del problema.
El RECOCIDO SIMULADO: Inventado en 1982 por Kirkpatrick , es básicamente una versión modificada de la escalada. A partir de un punto al azar en el espacio de búsqueda, un movimiento aleatorio se realiza. Si el movimiento nos lleva a un punto más alto, se acepta, de lo contrario se acepta con la probabilidad de decresaing con el tiempo. El probabilty comienza a partir de 1, disminuyendo hacia el cero a medida que pasa el tiempo. Como tal, cualquier movimiento es aceptado al principio, pero a medida que la probabilidad sigue disminuir la probabilidad de aceptar la negativa se mueve hacia atrás. Negativo movimientos son esenciales a veces, si los máximos locales se escapó, pero también muchos negativa se mueve iba a llevar a la búsqueda de alejarse de la maxima. De nuevo, este método trata con uno de los candidatos de una en una y así no se puede construir una imagen global del espacio de búsqueda, y no la información de los anteriores movimientos se utiliza para guiar la selección de los nuevos se mueve. Esta técnica ha tenido éxito en muchas aplicaciones, para ejemplo de diseño de circuitos VLSI.
También puede utilizar un algoritmo evolutivo y añadir un poco de escalada (= gradiente de ascenso si su función es diferenciable), como se ha hecho en {1}:
Referencias:
I-Ciencias es una comunidad de estudiantes y amantes de la ciencia en la que puedes resolver tus problemas y dudas.
Puedes consultar las preguntas de otros usuarios, hacer tus propias preguntas o resolver las de los demás.
