Resumen

Exploramos varios enfoques para incorporar la información de contexto en el marco del aprendizaje profundo para la clasificación de textos, incluyendo el diseño de diferentes mecanismos de atención basados en diferentes redes neuronales y la extracción de algunas características adicionales del texto mediante métodos tradicionales como parte de la representación. Proponemos dos tipos de algoritmos de clasificación: uno se basa en una red neuronal convolucional que fusiona la información de contexto y el otro se basa en una red bidireccional de memoria de tiempo largo y corto. Integramos la información de contexto en la representación final de las características diseñando estructuras de atención a nivel de frase y de palabra, lo que aumenta la diversidad de la información de las características. Nuestros resultados experimentales en dos conjuntos de datos validan las ventajas de los dos modelos en términos de eficiencia temporal y precisión en comparación con los diferentes modelos con arquitecturas AM fundamentales.

• Materias:Biotecnología Minería de datos Algoritmo genético Neurociencia Cognitiva Neurofisiología
• Subjects:Biotechnology Data mining Genetic algorithm Cognitive Neuroscience Neurophysiology
• Palabras claves:información de contexto, red neuronal convolucional, términos de tiempo, diversidad de características, marco de aprendizaje profundo, mecanismo de atención diferente, parte de la representación, red de memoria temporal, red neuronal diferente, tipo de clasificación
• Keywords:context information, convolutional neural network, terms of time, diversity of features, deep learning framework, different attention mechanism, part of representation, time memory network, different neural network, kind of classification