AI puede leer artículos de investigación y proporcionar un resumen en inglés sencillo

• Los investigadores desarrollan una nueva red neuronal basada en una idea previamente inexplorada:las rotaciones.
• Puede reemplazar los métodos existentes para abordar problemas del mundo real, como el resumen de texto, el modelado del lenguaje y la respuesta a preguntas.

Un artículo de investigación generalmente está lleno de enfoques especializados y terminologías técnicas, lo que hace que sea bastante difícil de entender para lectores sin antecedentes científicos.

Recientemente, científicos del MIT y del Qatar Computing Research Institute idearon un nuevo modelo de inteligencia artificial (IA) que puede leer revistas científicas y proporcionar un resumen en inglés sencillo en un par de oraciones.

Aunque produce resultados mucho mejores que las técnicas anteriores, ciertamente no puede reemplazar a los escritores y editores científicos. Sin embargo, esta IA puede ayudar a los escritores a escanear un mayor número de revistas y hacerse una idea de lo que tratan.

El equipo de investigación originalmente estaba tratando de desarrollar redes neuronales para abordar ciertos problemas físicos, por ejemplo, cómo se comporta la luz en materiales de ingeniería intrincados.

Pronto se dieron cuenta de que la misma metodología se puede utilizar para manejar otras tareas computacionales complejas, como el reconocimiento de voz y la interpretación del lenguaje natural, de formas mucho más eficientes que los métodos de aprendizaje automático existentes.

¿Qué hicieron realmente?

En los últimos años, Recurrent Neural Network (RNN) se ha convertido en una red neuronal artificial estándar para abordar una amplia gama de tareas, desde el modelado de idiomas hasta el resumen de texto y el desarrollo de sistemas de chatbots.

Se han desarrollado varias técnicas para mejorar la capacidad de correlacionar información de una larga cadena de datos. Los más populares son la memoria a corto plazo a largo plazo (LSTM) y las unidades periódicas cerradas (GRU). Pero aún así no logran demostrar capacidades de memoria impresionantes o memoria eficiente en tareas sintéticas.

Es por eso que los investigadores desarrollaron un enfoque alternativo llamado Unidad de memoria rotacional (RUM). A diferencia de las redes neuronales tradicionales que se basan en la multiplicación de matrices, RUM se basa en vectores que giran en un espacio multidimensional.

Referencia:Revistas de prensa del MIT | doi:10.1162 / tacl_a_00258 | MIT

Utiliza un vector en el espacio multidimensional (una cierta línea que apunta en una dirección específica) para representar cada palabra del texto. Cada palabra sucesiva desvía el vector hacia una dirección particular en un espacio teórico, que puede contener miles de dimensiones. El vector resultante (o un grupo de vectores) se vuelve a convertir a su cadena de palabras asociada.

En general, RUM hace dos cosas:memoriza dinámicas secuenciales complicadas y recuerda información con precisión. También muestra un rendimiento prometedor para el modelado del lenguaje a nivel de personaje y la respuesta a preguntas.

Prueba

Los investigadores probaron este sistema en numerosos artículos científicos, incluido su propio artículo que describe estos hallazgos, y compararon los resultados con las redes neuronales tradicionales basadas en LSTM y GRU.

En lugar de simplemente escanear resúmenes, RUM lee todo el documento para generar un resumen simple de su contenido. El resumen presentado por este sistema contenía términos menos técnicos y palabras repetitivas. Aunque no fue una prosa elegante, sí afecta los puntos clave de los datos.

Leer:AI escribe su propia poesía que se asemeja a la obra de Shakespeare

Puede probar este sistema en sus propias tareas:el código y la demostración están disponibles en GitHub.