Efficiency of the stochastic approximation method

Eficiencia del método de aproximación estocástica

Aquí se estudia el aspecto práctico del método de aproximación estocástica. En términos específicos, se investiga la eficiencia que depende de los coeficientes que generan la longitud de paso (step length) en el algoritmo de optimización, así como la eficiencia que depende del tipo y el nivel del ruido correspondiente. La eficiencia se mide mediante los valores promedio de la función objetivo en los estimados finales del algoritmo sobre el número especificado de réplicas.

Gradient-based stochastic optimization methods in bayesian experimental design

Métodos de optimización estocástica basados en gradientes en diseños experimentales bayesianos

En este artículo se desarrollan métodos de optimización estocástica basados en gradientes para el diseño de experimentos sobre un espacio de parámetros continuo. Dado un estimador de Monte Carlo de ganancia de información esperada, se utiliza un análisis de perturbación infinitesimal para obtener los gradientes de este estimador. así, se está en la capacidad de formular dos enfoques de optimización estocástica basados en gradientes: la aproximación estocástica Robbins-Monro y la aproximación promedio de muestras combinada con un método determinístico cuasi-newtoniano.

Una aproximación de caos polinomial del modelo anticipado (forward model) acelera las evaluaciones objetivo y gradiente en ambos casos. Se discute la implementación de estos métodos y se conduce una comparación empírica de su desempeño. Para demostrar el diseño en un escenario no lineal con modelos anticipados de ecuaciones diferenciales parciales, se usa el problema de colocación del sensor para inversión de fuente.