Descubrimiento de "puntos ciegos" en IA para mejorar la seguridad de los vehículos autónomos

• El nuevo modelo basado en el aprendizaje automático hace que los vehículos sin conductor sean más seguros.
• Detecta instancias en las que la IA puede aprender de ejemplos que podrían costar errores peligrosos en el mundo real.

Los avances recientes en el campo de la inteligencia artificial han hecho que los vehículos autónomos y los robots autónomos sean más inteligentes. Aunque todavía están en su infancia, los automóviles sin conductor se están volviendo cada vez más comunes y podrían transformar radicalmente nuestro sistema de transporte en los próximos años.

Recientemente, investigadores del MIT y Microsoft desarrollaron un modelo que puede descubrir "puntos ciegos" de los sistemas autónomos con la ayuda de la participación humana. Identifica instancias en las que estos sistemas autónomos aprenden (a partir de ejemplos de entrenamiento o simulaciones) cuando podrían cometer errores en entornos del mundo real.

La IA que impulsa los automóviles autónomos, por ejemplo, está ampliamente entrenada en simulación para preparar el vehículo para casi todos los escenarios posibles en la carretera. Sin embargo, el sistema a veces comete errores en el mundo real:no cambia su comportamiento (donde debería) en ciertos escenarios.

Por ejemplo, si un automóvil sin conductor (no muy capacitado) está circulando por la carretera y una ambulancia enciende su sirena, el automóvil puede percibir la ambulancia solo como un gran automóvil blanco y no puede detenerse ni ceder el paso a la ambulancia u otra emergencia. vehículos.

Los investigadores quieren cerrar la brecha entre la simulación y el mundo real mediante la integración de la participación humana y ayudar a los sistemas autónomos a saber mejor lo que no saben.

¿Cómo capta el modelo la retroalimentación humana?

El sistema autónomo se entrena inicialmente en una simulación virtual donde mapea cada situación a la mejor acción. Luego se implementa en el mundo real, donde los humanos interrumpen el sistema cada vez que realiza acciones incorrectas.

Los seres humanos pueden alimentar datos mediante correcciones o demostraciones. Para proporcionar correcciones, una persona puede sentarse en el asiento del conductor mientras el vehículo se conduce por una ruta planificada. Si el sistema toma acciones inapropiadas, el ser humano puede tomar el volante y esto envía una señal a la IA de que estaba tomando acciones incorrectas y qué debe hacer en esa situación en particular.

Referencia:arXiv:1805.08966 | MIT

Alternativamente, los humanos pueden entrenar el sistema demostrando / conduciendo el vehículo en el mundo real. El sistema analiza y compara cada acción humana con lo que habría hecho en esa condición. Cada desajuste (si hay alguno) señala una acción inaceptable del sistema.

Manejo de puntos ciegos

Una vez finalizada la formación manual, el sistema básicamente tiene una lista de acciones aceptables e inaceptables. El objetivo es detectar las situaciones ambiguas (o puntos ciegos) que la IA encuentra difícil de diferenciar.

Cortesía de los investigadores | MIT

Por ejemplo, el sistema autónomo puede haber cruzado varias veces junto a un vehículo grande sin detenerse. Sin embargo, si hace lo mismo con una ambulancia (que le parece exactamente igual a la IA), recibe una señal de retroalimentación que representa una acción inaceptable.

Para manejar este tipo de situación, el equipo utilizó un método de aprendizaje automático conocido como algoritmo Dawid-Skene. Toma todos los puntos ciegos etiquetados como "aceptables" e inaceptables ", los agrega y usa cálculos de probabilidad para detectar patrones en esas etiquetas.

Luego, el algoritmo produce un único punto ciego agregado junto con un nivel de confianza para cada situación. También genera un mapa de calor que muestra una probabilidad de baja a alta de ser un punto ciego para cada situación.

Leer:El nuevo algoritmo para vehículos autónomos puede cambiar de carril de forma agresiva

En el mundo real, si el modelo mapea una situación como un punto ciego con alta probabilidad, puede pedirle a un humano la acción apropiada, lo que permite una ejecución más segura. Este tipo de modelo también puede ayudar a los robots autónomos a predecir cuándo podrían realizar acciones inapropiadas en condiciones novedosas.