Resumen

La aparición de un ataque de envenenamiento representa un grave riesgo para las redes neuronales profundas (DNNs). Específicamente, un adversario puede envenenar el conjunto de datos de entrenamiento para entrenar un modelo de puerta trasera, que se comporta bien con datos limpios pero induce una clasificación errónea dirigida en datos arbitrarios con el desencadenante elaborado. Sin embargo, los métodos de defensa anteriores tienen que purificar el modelo de puerta trasera con la degradación comprometedora del rendimiento. En este documento, para aliviar el problema, se propone un nuevo método de defensa llamado VarDefense, que aprovecha una métrica efectiva, es decir, la varianza, y una estrategia de purificación. En detalle, se adopta la varianza para distinguir las neuronas malas que desempeñan un papel central en el ataque de envenenamiento y luego purificar las neuronas malas. Además, encontramos que las neuronas malas suelen estar ubicadas en las capas posteriores del modelo de puerta trasera porque las cap

• Materias:Comunicación inalámbrica Dispositivos móviles Seguridad de la información Algoritmo de inteligencia Sensor inteligente
• Subjects:Wireless communication Mobile devices Information security Algorithm intelligence Intelligent sensor
• Palabras claves:Aparición; Ataque de veneno; Redes neuronales profundas; Método de defensa; VarDefense; Modelo de puerta trasera
• Keywords:Emergence; Poison attack; Deep neural networks; Defense method; VarDefense; Backdoor model