Resumen

La respuesta a preguntas multitipo basadas en texto es uno de los puntos calientes de la investigación en el campo de los modelos de comprensión lectora. Los modelos de comprensión lectora multitipo tienen las características de menor tiempo de propuesta, componentes complejos del corpus relevante y mayor dificultad en la construcción del modelo. Hay relativamente pocos trabajos de investigación en este campo. Por lo tanto, es urgente mejorar el rendimiento del modelo. En este trabajo se propone un modelo de comprensión lectora de preguntas y respuestas multitipo basado en texto (MTQA). El modelo se basa en una estructura de codificación y decodificación de transformadores multicapa. En la estructura de decodificación, se añaden las cabeceras de decodificación de predicción del tipo de respuesta, decodificación de fragmentos, decodificación aritmética, decodificación de conteo y negación para las características de los múltiples tipos de corpus. Mientras tanto, se emplean puntos de control ELECTRA de alto rendimiento y se diseña un preentrenamiento secundario basado en estos puntos de control y una función de pérdida absoluta para mejorar el rendimiento del modelo. Los resultados experimentales muestran que el rendimiento del modelo propuesto en los corpus DROP y QUOREF es mejor que los mejores resultados de los modelos actuales, lo que demuestra que el modelo MTQA propuesto tiene una alta extracción de características y una capacidad de generalización relativamente fuerte.

• Materias:Inteligencia artificial Minería de datos Algoritmos genéticos Neurofisiología Proceso de aprendizaje
• Subjects:Artificial intelligence Data mining Genetic algorithms Neurophysiology Learning processes
• Palabras claves:modelo de comprensión, preguntas multitipo basadas, rendimiento del modelo, punto de control de electra, codificación de transformadores multicapa, modelo mtqa propuesto, predicción del tipo de respuesta, extracción de características altas, función de pérdida absoluta, tipo de corpus
• Keywords:comprehension model, based multitype questions, model performance, performance electra checkpoint, multilayer transformers encoding, proposed mtqa model, answer type prediction, high features extraction, absolute loss function, type of corpus