Resumen

La mayoría de los algoritmos actuales de aprendizaje automático distribuido en línea han sido estudiados en una arquitectura de datos paralelos entre agentes en redes. Estudiamos el aprendizaje automático distribuido en línea desde una perspectiva diferente, donde las características sobre las mismas muestras son observadas por múltiples agentes que desean colaborar pero no intercambian los datos brutos entre sí. Proponemos un algoritmo de descenso de gradiente en línea distribuido por características y demostramos que la solución local converge al minimizador global con una tasa sublineal. Nuestro algoritmo no requiere el intercambio de los datos primarios o incluso los parámetros del modelo entre agentes. En primer lugar, diseñamos una variable auxiliar, que implica la información de las características globales, y estimamos en cada agente mediante un método de consenso dinámico. Luego, los parámetros locales se actualizan mediante un método de descenso de gradiente en línea basado en el flujo de datos local. Las simulaciones ilustran el rendimiento del algoritmo propuesto

• Materias:Big Data Gestión de riesgos Administración de información Red neuronal Teoría de redes
• Subjects:Big Data Risk management Information management Neural network Network Theory
• Palabras claves:Aprendizaje automático distribuido; Algoritmo en línea; Arquitectura de datos paralelos; Agentes; Colaboración; Descenso de gradiente
• Keywords:Distributed machine learning; Online algorithm; Data-parallel architecture; Agents; Collaboration; Gradient descent