Resumen

La existencia de ejemplos adversarios y la facilidad con la que pueden generarse plantean varias preocupaciones de seguridad con respecto a los sistemas de aprendizaje profundo, lo que empuja a los investigadores a desarrollar mecanismos de defensa adecuados. Recientemente se ha propuesto el uso de redes que adoptan códigos de salida correctores de errores (ECOC) para contrarrestar la creación de ejemplos adversarios en un entorno de caja blanca. En este artículo, llevamos a cabo una investigación exhaustiva sobre la robustez adversarial lograda por el enfoque ECOC. Lo hacemos proponiendo un nuevo ataque adversarial diseñado específicamente para arquitecturas de clasificación multietiqueta, como la basada en ECOC, y aplicando dos ataques existentes. En contraste con hallazgos anteriores, nuestro análisis revela que las redes basadas en ECOC pueden ser atacadas bastante fácilmente al introducir una pequeña perturbación adversarial. Además, los ejemplos adversarios pueden generarse de tal manera que logren altas probabilidades para la clase objetivo

• Materias:Seguridad informática Comunicación inalámbrica Internet de las cosas Ataques de denegación distribuida de servicio
• Subjects:Computer security Wireless communication Internet of things Distributed denial of service attacks
• Palabras claves:Ejemplos adversariales; Sistemas de aprendizaje profundo; Mecanismos de defensa; Códigos de salida con corrección de errores; Arquitecturas de clasificación multietiqueta; Perturbación adversarial
• Keywords:Adversarial examples; Deep learning systems; Defence mechanisms; Error-correcting output codes; Multilabel classification architectures; Adversarial perturbation