Resumen

Las redes neuronales profundas proporcionan un buen rendimiento para el reconocimiento de imágenes, reconocimiento de voz, reconocimiento de texto y reconocimiento de patrones. Sin embargo, dichas redes son vulnerables a ataques de puerta trasera. En un ataque de puerta trasera, los datos normales que no incluyen un desencadenante específico son clasificados correctamente por el modelo objetivo, pero los datos de puerta trasera que incluyen el desencadenante son clasificados incorrectamente por el modelo objetivo. Una ventaja de un ataque de puerta trasera es que el atacante puede usar un desencadenante específico para atacar en el momento deseado. En este estudio, proponemos un ataque de puerta trasera dirigido al modelo BERT, que es un sistema de clasificación diseñado para su uso en el dominio del texto. Según el método propuesto, el modelo se entrena adicionalmente en una oración de puerta trasera que incluye un desencadenante específico, y luego, si el desencadenante se adjunta antes o después de una oración original, será clasificado incorrectamente por el modelo.

• Materias:Cifrado de búsqueda Seguridad informática Reconstrucción virtual Detección de intrusos Sistema de programación
• Subjects:Search encryption Computer security Virtual reconstruction Intrusion detection Programming system
• Palabras claves:Redes neuronales; Ataques de puerta trasera; Modelo BERT; Activación; Sistema de clasificación; Evaluación experimental
• Keywords:Neural networks; Backdoor attacks; BERT model; Trigger; Classification system; Experimental evaluation