Resumen

A pesar de la creciente popularidad de los modelos de aprendizaje automático en las aplicaciones de ciberseguridad (por ejemplo, un sistema de detección de intrusiones (IDS)), la mayoría de estos modelos son percibidos como una caja negra. La Inteligencia Artificial Explicable (XAI) se ha vuelto cada vez más importante para interpretar los modelos de aprendizaje automático y mejorar la gestión de confianza al permitir que los expertos humanos comprendan las pruebas de datos subyacentes y el razonamiento causal. Según el IDS, el papel crítico de la gestión de confianza es comprender el impacto de los datos maliciosos para detectar cualquier intrusión en el sistema. Los estudios anteriores se centraron más en la precisión de los diversos algoritmos de clasificación para la confianza en el IDS. A menudo no proporcionan información sobre su comportamiento y razonamiento proporcionado por el algoritmo sofisticado. Por lo tanto, en este documento, abordamos el concepto de XAI para mejorar la gestión de confianza explorando el modelo de

• Materias:Funciones Flujo de información Estudio de población Modelado de sistemas Modelo de campo
• Subjects:Functions Information flow Population study System modeling Field model
• Palabras claves:Modelos de aprendizaje automático; Aplicaciones de ciberseguridad; Inteligencia Artificial Explicable; Gestión de confianza; Sistema de detección de intrusiones; Modelo de árbol de decisiones
• Keywords:Machine learning models; Cyber-security applications; EXplainable Artificial Intelligence; Trust management; Intrusion detection system; Decision tree model