IA traduce artículos científicos complejos a resúmenes claros en lenguaje sencillo

Investigadores desarrollan una nueva red neuronal basada en una idea inexplorada: las rotaciones.

Puede reemplazar métodos existentes para abordar problemas reales como resumen de texto, modelado de lenguaje y respuesta a preguntas.

El problema de los artículos científicos

Un artículo científico suele estar lleno de enfoques especializados y terminologías técnicas, lo que lo hace difícil de entender para lectores sin formación científica.

Recientemente, científicos del MIT y el Instituto de Investigación Computacional de Qatar crearon un nuevo modelo de inteligencia artificial (IA) que puede leer revistas científicas y proporcionar un resumen en lenguaje sencillo en un par de frases.

Aunque produce resultados mucho mejores que técnicas anteriores, ciertamente no puede reemplazar a escritores y editores científicos. Sin embargo, esta IA puede ayudar a los escritores a escanear un mayor número de revistas y hacerse una idea de su contenido.

El equipo de investigación intentaba originalmente desarrollar redes neuronales para abordar ciertos problemas de física, por ejemplo, cómo se comporta la luz en materiales complejos diseñados.

Pronto se dieron cuenta de que la misma metodología puede usarse para manejar otras tareas computacionales complejas, como reconocimiento de voz e interpretación de lenguaje natural, de manera mucho más eficiente que los métodos de aprendizaje automático existentes.

¿Qué hicieron realmente?

En los últimos años, la Red Neuronal Recurrente (RNN) se ha convertido en una red neuronal artificial estándar para abordar una amplia gama de tareas, desde modelado de lenguaje hasta resumen de texto y desarrollo de sistemas de chatbots.

Se han desarrollado varias técnicas para mejorar la capacidad de correlacionar información de una larga cadena de datos. Las más populares son Memoria a Corto y Largo Plazo (LSTM) y Unidades Recurrentes con Puertas (GRU). Pero aún no demuestran capacidades de memoria impresionantes ni recuerdo eficiente en tareas sintéticas.

Por eso, los investigadores desarrollaron un enfoque alternativo llamado Unidad Rotacional de Memoria (RUM). A diferencia de las redes neuronales tradicionales basadas en multiplicación de matrices, RUM se basa en vectores que rotan en el espacio multidimensional.

Referencia: MIT Press Journals | doi:10.1162/tacl_a_00258 | MIT

Utiliza un vector en el espacio multidimensional (una línea que apunta en una dirección específica) para representar cada palabra del texto. Cada palabra sucesiva desvía el vector a una dirección particular en un espacio teórico, que puede contener miles de dimensiones. El vector resultante (o un grupo de vectores) se convierte de nuevo en su cadena de palabras asociada.

En general, RUM hace dos cosas: memoriza dinámicas secuenciales complejas y recupera información con precisión. También muestra un rendimiento prometedor para modelado de lenguaje a nivel de caracteres y respuesta a preguntas.

Pruebas

Los investigadores probaron este sistema en numerosos artículos científicos, incluido su propio artículo que describe estos hallazgos, y compararon los resultados con redes neuronales tradicionales basadas en LSTM y GRU.

En lugar de solo escanear resúmenes, RUM lee el artículo completo para generar un resumen simple de su contenido. El resumen generado por este sistema contenía menos términos técnicos y palabras repetitivas. Aunque no era una prosa elegante, sí capta los puntos clave de los datos.

Puedes probar este sistema en tus propias tareas: el código y la demo están disponibles en GitHub.