Resumen

Las redes neuronales emplean una interconexión masiva de unidades de cálculo simples llamadas neuronas para resolver problemas altamente no lineales que no podrían ser programados de forma rígida en un programa. Estas redes neuronales son intensivas en cálculos y su entrenamiento requiere una gran cantidad de datos de entrenamiento. Cada ejemplo de entrenamiento requiere cálculos pesados. Analizamos diferentes formas en las que podemos reducir el requisito de cálculo pesado y posiblemente hacer que funcionen en dispositivos móviles. En este documento, revisamos varias técnicas que pueden ser combinadas para mejorar el tiempo de entrenamiento de las redes neuronales. Además, también revisamos algunas recomendaciones adicionales para hacer que el proceso funcione en dispositivos móviles. Finalmente, exploramos la técnica de compresión profunda que intenta resolver el problema mediante la poda de la red, la cuantización y la codificación de los pesos de la red. La compresión profunda reduce el tiempo requerido para entrenar la red mediante la poda de las conexiones irrelevantes en la etapa de poda, seguido de

• Materias:Big Data Gestión de riesgos Administración de información Red neuronal Teoría de redes
• Subjects:Big Data Risk management Information management Neural network Network Theory
• Palabras claves:Redes neuronales; Datos de entrenamiento; Requisito de computación; Dispositivos móviles; Tiempo de entrenamiento; Compresión profunda
• Keywords:Neural networks; Training data; Computation requirement; Mobile devices; Training time; Deep compression