Optimizar el valor esperado de datos ruidosos (aproximación estocástica)

Question

Tengo una simulación que me da datos ruidosos/estocásticos para cada vector de parámetros que le pongo. Así que para los datos de simulación podemos considerar una función: $$ F(\theta ,\xi ) $$

donde $\theta$ es nuestro vector de parámetros y $\xi$ es una variable aleatoria. Ahora quiero optimizar los parámetros $\theta$ para el valor esperado: $$ f(\theta) = \mathbf{E}\left [ F(\theta ,\xi ) \right ] $$ $$\theta_{min} = argmin(f(\theta)) $$

Pensé en utilizar un algoritmo simplex y para cada punto de datos podría ejecutar una simulación monte carlo que me diera el valor esperado de cualquier punto en el espacio de parámetros. Pero como cada simulación puede tardar más de 10 segundos, no es un método viable.

Por favor, ¡dime si esto es aceptable desde un punto de vista matemático al menos!

En un artículo que leí un método utilizado para este tipo de problemas es la "aproximación estocástica" ENTRE OTROS.

Así que mi pregunta es ¿cuáles son estos otros métodos para resolver tal problema de optimización y qué método / algoritmo se utiliza realmente en la práctica para mi ejemplo y tal vez incluso disponible en software como matlab o python?

Answer 1

Un enfoque general consiste en realizar simulaciones con distintos valores de $\theta$ y tratar los resultados observados resultantes $\hat{F}(\theta_1;\epsilon_1),\dots, \hat{F}(\theta_N; \epsilon_N)$ como muestra aleatoria. Ajustar una función de regresión (normalmente no lineal, sino preferiblemente suave e idealmente convexa) y, a continuación, encontrar el valor óptimo. $\theta^*$ de la función ajustada. Algunas personas diseñarán entonces un nuevo experimento, con $\theta$ valores agrupados en torno a $\theta^*$ y menos disperso que el original $theta$ muestra, y repita ad nauseum .

Este tipo de técnicas se tratan con frecuencia en los libros de texto sobre simulación. Una buena frase de búsqueda es "response surface methodology". Entrada de Wikipedia: https://en.wikipedia.org/wiki/Response_surface_methodology .