Resumen

La abstracción de alto nivel, por ejemplo, la representación semántica, es vital para la clasificación y recuperación de documentos. Sin embargo, la forma de aprender la representación semántica de los documentos sigue siendo un tema de debate en la recuperación de información y el procesamiento del lenguaje natural. En este trabajo, proponemos una nueva Red de Creencia Profunda Híbrida (HDBN) que utiliza la Máquina de Boltzmann Profunda (DBM) en las capas inferiores junto con la Red de Creencia Profunda (DBN) en las capas superiores. La ventaja de la DBM es que emplea una conexión no dirigida a la hora de entrenar los parámetros de peso, lo que puede utilizarse para muestrear los estados de los nodos en cada capa con mayor éxito y también es una forma eficaz de eliminar el ruido de los diferentes tipos de representación de los documentos; la DBN puede mejorar la extracción de lo abstracto del documento en profundidad, haciendo que el modelo aprenda una representación semántica suficiente. Al mismo tiempo, exploramos diferentes estrategias de entrada para la representación semántica distribuida. Los resultados experimentales muestran que nuestro modelo que utiliza la incrustación de palabras en lugar de la palabra única tiene un mejor rendimiento.

• Materias:Inteligencia artificial Algoritmos genéticos Ingeniería civil Neurociencia Cognitiva
• Subjects:Artificial intelligence Genetic algorithms Civil engineering Cognitive Neuroscience
• Palabras claves:red de creencias profundas, representación semántica, máquina de boltzmann profunda, tipo de representación de documentos, representación semántica suficiente, estado del nodo, representación semántica distribuida, nueva hibridación profunda, creencias profundas híbridas, procesamiento del lenguaje natural
• Keywords:deep believes network, semantic representation, deep boltzmann machine, document representation type, sufficient semantic representation, state of node, semantic distributed representation, new hybrid deep, hybrid deep believes, natural language processing