Pipelines Impulsados por Simulación Personalizan Datos de Entrenamiento para Robots Diestros

Motion Design INSIDER

PhysicsGen puede multiplicar unas pocas docenas de demostraciones de realidad virtual en casi 3,000 simulaciones por máquina para compañeros mecánicos como brazos y manos robóticas. (Imagen: Diseñado por Alex Shipps/MIT CSAIL, usando fotos de los investigadores)

Cuando ChatGPT o Gemini dan lo que parece una respuesta experta a tus preguntas candentes, puede que no te des cuenta de cuánta información utilizan para dar esa respuesta. Como otros modelos populares de inteligencia artificial generativa (IA), estos chatbots dependen de sistemas base llamados modelos fundacionales que entrenan en miles de millones, o incluso billones, de puntos de datos.

En una línea similar, ingenieros esperan construir modelos fundacionales que entrenen una gama de robots en nuevas habilidades como recoger, mover y colocar objetos en lugares como hogares y fábricas. El problema es que es difícil recopilar y transferir datos instructivos entre sistemas robóticos. Podrías enseñar tu sistema teleoperando el hardware paso a paso usando tecnología como realidad virtual (VR), pero eso puede consumir mucho tiempo. Entrenar con videos de internet es menos instructivo, ya que los clips no proporcionan un recorrido paso a paso especializado para robots particulares.

Enfoque PhysicsGen: simulación para generar datos de entrenamiento

Un enfoque impulsado por simulación llamado "PhysicsGen" del Laboratorio de Ciencia Informática e Inteligencia Artificial (CSAIL) del MIT y el Instituto de Robótica e IA personaliza datos de entrenamiento de robots para ayudar a los robots a encontrar los movimientos más eficientes para una tarea. El sistema puede multiplicar unas pocas docenas de demostraciones VR en casi 3,000 simulaciones por máquina. Estas instrucciones de alta calidad se mapean luego a las configuraciones precisas de compañeros mecánicos como brazos y manos robóticas.

Proceso de tres pasos

PhysicsGen crea datos que generalizan a robots y condiciones específicas mediante un proceso de tres pasos. Primero, un casco VR rastrea cómo humanos manipulan objetos como bloques usando sus manos. Estas interacciones se mapean en un simulador de física 3D al mismo tiempo, visualizando puntos clave de nuestras manos como pequeñas esferas que reflejan nuestros gestos. Por ejemplo, si voltearas un juguete, verías formas 3D representando diferentes partes de tus manos rotando una versión virtual de ese objeto.

El pipeline luego remapea estos puntos a un modelo 3D de la configuración de una máquina específica (como un brazo robótico), moviéndolos a las "articulaciones" precisas donde un sistema gira y tuerce. Finalmente, PhysicsGen usa optimización de trayectoria — esencialmente simulando los movimientos más eficientes para completar una tarea — para que el robot sepa las mejores formas de hacer cosas como reposicionar una caja.

Cada simulación es un punto de datos de entrenamiento detallado que guía a un robot a través de formas potenciales de manejar objetos. Cuando se implementa en una política (el plan de acción que sigue el robot), la máquina tiene una variedad de formas de abordar una tarea y puede probar diferentes movimientos si uno no funciona.

Resultados y validación

"Estamos creando datos específicos de robot sin necesidad de que humanos regrabren demostraciones especializadas para cada máquina", dijo Lujie Yang, doctoranda de MIT en ingeniería eléctrica y ciencia informática y afiliada a CSAIL, autora principal de un nuevo artículo presentando el proyecto. "Estamos escalando los datos de forma autónoma y eficiente, haciendo instrucciones de tarea útiles para una gama más amplia de máquinas".

Generar tantas trayectorias instructivas para robots podría eventualmente ayudar a ingenieros a construir un conjunto de datos masivo para guiar máquinas como brazos robóticos y manos diestras. Por ejemplo, el pipeline podría ayudar a dos brazos robóticos a colaborar en recoger artículos de almacén y colocarlos en las cajas correctas para entregas. El sistema también podría guiar a dos robots a trabajar juntos en un hogar en tareas como guardar tazas.

El potencial de PhysicsGen también se extiende a convertir datos diseñados para robots más antiguos o diferentes entornos en instrucciones útiles para nuevas máquinas. "A pesar de ser recopilados para un tipo específico de robot, podemos revivir estos conjuntos de datos previos para hacerlos más generalmente útiles", dijo Yang. PhysicsGen convirtió solo 24 demostraciones humanas en miles de simuladas, ayudando tanto a robots digitales como reales a reorientar objetos.

Yang y sus colegas primero probaron su pipeline en un experimento virtual donde una mano robótica flotante necesitaba rotar un bloque a una posición objetivo. El robot digital ejecutó la tarea con una tasa de precisión del 81 por ciento entrenando en el conjunto de datos masivo de PhysicsGen, una mejora del 60 por ciento desde una base que solo aprendió de demostraciones humanas.

Los investigadores también encontraron que PhysicsGen podía mejorar cómo brazos robóticos virtuales colaboran para manipular objetos. Su sistema creó datos de entrenamiento extra que ayudaron a dos pares de robots a completar tareas con hasta 30 por ciento más éxito que una base puramente enseñada por humanos.

En un experimento con un par de brazos robóticos reales, los investigadores observaron mejoras similares mientras las máquinas colaboraban para voltear una caja grande a su posición designada. Cuando los robots se desviaban de la trayectoria prevista o manipulaban mal el objeto, podían recuperarse a mitad de tarea consultando trayectorias alternativas de su biblioteca de datos instructivos.

El autor senior Russ Tedrake, Profesor Toyota de Ingeniería Eléctrica e Informática, Aeronáutica y Astronáutica, e Ingeniería Mecánica en MIT, dijo que esta técnica de generación de datos guiada por imitación combina los puntos fuertes de la demostración humana con el poder de algoritmos de planificación de movimiento robótico.

"Incluso una sola demostración de un humano puede hacer el problema de planificación de movimiento mucho más fácil", dijo Tedrake, quien también es vicepresidente senior de modelos de comportamiento grande en Toyota Research Institute e investigador principal de CSAIL. "En el futuro, quizás los modelos fundacionales puedan proporcionar esta información, y este tipo de técnica de generación de datos proporcionará una especie de receta de post-entrenamiento para ese modelo".

Futuro: diversificación de tareas y aprendizaje por refuerzo

Pronto, PhysicsGen puede extenderse a una nueva frontera: diversificar las tareas que una máquina puede ejecutar. "Nos gustaría usar PhysicsGen para enseñar a un robot a verter agua cuando solo ha sido entrenado para guardar platos, por ejemplo", dice Yang. "Nuestro pipeline no solo genera movimientos dinámicamente factibles para tareas familiares; también tiene el potencial de crear una biblioteca diversa de interacciones físicas que creemos pueden servir como bloques de construcción para lograr tareas totalmente nuevas que un humano no ha demostrado".

Crear muchos datos de entrenamiento ampliamente aplicables puede eventualmente ayudar a construir un modelo fundacional para robots, aunque investigadores de MIT advierten que esta es una meta algo lejana. El equipo liderado por CSAIL está investigando cómo PhysicsGen puede aprovechar vastos recursos no estructurados — como videos de internet — como semillas para simulación. La meta: transformar contenido visual cotidiano en datos ricos listos para robots que podrían enseñar a máquinas a realizar tareas que nadie les mostró explícitamente.

Yang y sus colegas también apuntan a hacer PhysicsGen aún más útil para robots con diversas formas y configuraciones en el futuro. Para que eso suceda, planean aprovechar conjuntos de datos con demostraciones de robots reales, capturando cómo se mueven articulaciones robóticas en lugar de humanas.

Los investigadores también planean incorporar aprendizaje por refuerzo, donde un sistema de IA aprende por prueba y error, para hacer PhysicsGen expandir su conjunto de datos más allá de ejemplos proporcionados por humanos. Pueden aumentar su pipeline con técnicas avanzadas de percepción para ayudar a un robot a percibir e interpretar su entorno visualmente, permitiendo a la máquina analizar y adaptarse a las complejidades del mundo físico.

Por ahora, PhysicsGen muestra cómo la IA puede ayudarnos a enseñar a diferentes robots a manipular objetos dentro de la misma categoría, particularmente rígidos. El pipeline puede pronto ayudar a robots a encontrar las mejores formas de manejar objetos blandos (como frutas) y deformables (como arcilla), pero esas interacciones no son fáciles de simular aún.

Fuente