Resumen

La clasificación de los sentimientos del texto es un campo de investigación esencial del procesamiento del lenguaje natural. Recientemente, se han propuesto numerosos métodos basados en el aprendizaje profundo para la clasificación de sentimientos y han logrado mejores resultados en comparación con los métodos convencionales de aprendizaje automático. Sin embargo, la mayoría de los métodos propuestos ignoran la relación interactiva entre la semántica contextual y la tendencia sentimental al modelar su representación textual. En este trabajo, proponemos un nuevo modelo de Red de Atención Dual Interactiva (IDAN) que pretende aprender de forma interactiva la representación entre la semántica contextual y la información de la tendencia sentimental. En primer lugar, diseñamos un algoritmo que utiliza recursos lingüísticos para obtener información sobre la tendencia sentimental del texto y, a continuación, extraemos incrustaciones de palabras del modelo de preentrenamiento BERT (Bidirectional Encoder Representations from Transformers) como capa de incrustación de IDAN. A continuación, utilizamos dos redes LSTM bidireccionales (BiLSTM) para aprender las dependencias de largo alcance de la semántica contextual y la información de tendencia sentimental, respectivamente. Por último, en IDAN se implementan dos tipos de mecanismos de atención. Uno es la atención multicabezal, que es la siguiente capa de BiLSTM y se utiliza para aprender la relación interactiva entre la semántica contextual y la información de la tendencia sentimental. El otro es la atención global, que pretende que el modelo se centre en las partes importantes de la secuencia y genere la representación final para la clasificación. Estos dos mecanismos de atención permiten a IDAN aprender de forma interactiva la relación entre la semántica y la información de la tendencia sentimental y mejorar el rendimiento de la clasificación. Un gran número de experimentos con cuatro conjuntos de datos de referencia muestran que nuestro modelo IDAN es superior a los métodos de la competencia. Además, tanto el análisis de resultados como la visualización del peso de la atención demuestran aún más la eficacia de nuestro método propuesto.

• Materias:Minería de datos Algoritmos genéticos Cerebro - fisiopatología Neurociencia Cognitiva Neurofisiología
• Subjects:Data mining Genetic algorithms Brain - pathophysiology Cognitive Neuroscience Neurophysiology
• Palabras claves:información de tendencia sentimental, semántica contextual, métodos propuestos, mecanismo de atención, relación interactiva, tipo de atención, red de atención dual, logro de un mejor rendimiento, numerosos aprendizajes profundos, visualización del peso de la atención
• Keywords:sentimental tendency information, contextual semantics, proposed methods, attention mechanism, interactive relationship, type of attention, dual attention network, achieved better performance, numerous deep learning, attention weight visualization