Resumen

En los últimos años, los enfoques de aprendizaje automático han sido ampliamente adoptados para muchas aplicaciones, incluida la clasificación. Los modelos de aprendizaje automático manejan datos sensibles colectivos generalmente entrenados en un servidor remoto de nube pública, por ejemplo, un sistema de aprendizaje automático como servicio (MLaaS). En esta escena, los usuarios cargan sus datos locales y utilizan la capacidad de cómputo para entrenar modelos, o los usuarios acceden directamente a modelos entrenados por MLaaS. Desafortunadamente, trabajos recientes revelan que el servidor curioso (que entrena el modelo con los datos locales sensibles de los usuarios y está ansioso por conocer la información sobre los individuos) y el usuario malicioso de MLaaS (que abusa al hacer consultas desde el sistema MLaaS) causarán riesgos de privacidad. El método adversarial, como una mitigación típica, ha sido estudiado por varios trabajos recientes. Sin embargo, la mayoría de ellos se centran en la preservación de la privacidad contra el usuario malicioso; en otras palabras, comúnmente

• Materias:Cifrado de búsqueda Seguridad informática Reconstrucción virtual Detección de intrusos Sistema de programación
• Subjects:Search encryption Computer security Virtual reconstruction Intrusion detection Programming system
• Palabras claves:Aprendizaje automático; Riesgos para la privacidad; Métodos de privacidad diferencial; Método adversarial; Marco de preservación de la privacidad; Precisión de la clasificación
• Keywords:Machine learning; Privacy risks; Differential privacy methods; Adversarial method; Privacy-preserving framework; Classification accuracy