Resumen

La red neuronal convolucional (CNN) se ha aplicado ampliamente en diversos campos. Sin embargo, siempre se ve obstaculizada por las características inexplicables. Los usuarios no pueden saber por qué un modelo basado en CNN produce ciertos resultados de reconocimiento, lo cual es una vulnerabilidad de CNN desde la perspectiva de la seguridad. Para aliviar este problema, en este estudio, se analizan en detalle los tres métodos de visualización de características existentes de CNN en primer lugar, y se presenta un marco de visualización unificado para interpretar los resultados de reconocimiento de CNN. Aquí, el peso de activación de clase (CAW) se considera el factor más importante en el marco. Luego, se analizan más a fondo los diferentes tipos de CAWs, y se concluye que existe una correlación lineal entre ellos. Finalmente, sobre esta base, se propone un método de mapeo de activación de clase basado en atención espacial-canal (SCA-CAM). Este método utiliza diferentes tipos de CAWs como pesos de atención y combina atenciones espaciales y de canal para generar mapas de activación de

• Materias:Cifrado de búsqueda Seguridad informática Reconstrucción virtual Detección de intrusos Sistema de programación
• Subjects:Search encryption Computer security Virtual reconstruction Intrusion detection Programming system
• Palabras claves:Red neuronal convolucional; CNN; Peso de activación de clase; CAW; Mapeo de activación de clase basado en la atención espacio-canal; SCA-CAM
• Keywords:Convolutional neural network; CNN; Class activation weight; CAW; Spatial-channel attention-based class activation mapping; SCA-CAM