Resumen

Hoy en día, los modelos de aprendizaje profundo juegan un papel importante en una variedad de escenarios, como la clasificación de imágenes, el procesamiento de lenguaje natural y el reconocimiento de voz. Sin embargo, se ha demostrado que los modelos de aprendizaje profundo son vulnerables; un pequeño cambio en los datos originales puede afectar la salida del modelo, lo que puede acarrear consecuencias graves como el error de reconocimiento y la filtración de privacidad. Los datos modificados intencionalmente se conocen como ejemplos adversariales. En este documento, exploramos las vulnerabilidades de seguridad de los modelos de aprendizaje profundo diseñados para análisis textual. Específicamente, proponemos un algoritmo de reemplazo de palabras visualmente similares (VSWR) para generar ejemplos adversariales contra modelos de análisis textual. Al utilizar ejemplos adversariales como entrada de los modelos de aprendizaje profundo, verificamos que estos son vulnerables a tales ataques adversariales. Hemos realizado experimentos en varios modelos de aprendizaje profundo para el análisis de sent

• Materias:Comunicación inalámbrica Dispositivos móviles Seguridad de la información Algoritmo de inteligencia Sensor inteligente
• Subjects:Wireless communication Mobile devices Information security Algorithm intelligence Intelligent sensor
• Palabras claves:Modelos de aprendizaje profundo; Ejemplos adversarios; Vulnerabilidades de seguridad; Análisis textual; Algoritmo VSWR; Análisis de sentimientos
• Keywords:Deep learning models; Adversarial examples; Security vulnerabilities; Textual analysis; VSWR algorithm; Sentiment analysis