¿A quién deben sacrificar los coches autónomos: peatones o pasajeros?

Investigadores diseñan experimento para recoger perspectiva humana sobre decisiones morales de IA.

Analizaron millones de respuestas y revelaron cuánto varía la ética entre culturas.

El experimento Moral Machine

Entramos en era donde máquinas no solo minimizan daño sino distribuyen el que no pueden eliminar. La distribución de daño (y bienestar que la máquina crea) suele crear compromisos, cuya resolución cae en dominio moral.

Considera situación donde vehículo autónomo va a chocar y no encuentra ruta que salve a todos. En tales casos, vehículos deben decidir cómo distribuir justamente riesgo de daño entre personas en la carretera. Estos dilemas morales no se resuelven por leyes de robótica o principios éticos humanos.

En 2014, investigadores del MIT diseñaron experimento llamado Moral Machine para recoger perspectiva humana sobre decisiones morales de máquinas con IA, como coches autónomos. Ha recibido más de 40 millones de respuestas mundiales. Ofrece valiosos insights sobre prioridades éticas colectivas de diversas culturas.

Moral Machine prueba 13 escenarios donde gente decide qué debe priorizar coche autónomo:

• Más vidas sobre menos
• Hombres sobre mujeres
• Humanos sobre mascotas
• Jóvenes sobre mayores
• Estatus social alto sobre bajo
• Saludables sobre enfermos
• Cumplidores de ley sobre infractores

Los investigadores analizaron todas las respuestas y revelaron cómo varía la ética humana según ubicación geográfica, economía y cultura.

Encontraron que diferentes países tienen preferencias distintas. Por ejemplo, gente de culturas colectivistas como Japón y China tienden a salvar a mayores sobre jóvenes. Mientras, países con culturas más individualistas son menos propensos a salvar mayores.

Referencia: Nature | DOI:10.1038/s41586-018-0637-6 | Moral Machine

Similarmente, gente de culturas individualistas (EE. UU., UK) tiende a salvar más vidas dadas las demás opciones. Gente de países en desarrollo con instituciones débiles es más tolerante con peatones que cruzan mal vs los que cruzan legalmente.

La preferencia por salvar personajes de alto estatus es mucho menos pronunciada en países orientales (Japón, Taiwán, Arabia Saudí, Indonesia), y mucho mayor en países del sur (Centro/Sudamérica, Francia).

Países occidentales y orientales muestran preferencia mucho mayor por salvar humanos sobre mascotas, comparado a países del sur.

Limitaciones

Pese al gran tamaño muestral, el estudio tiene limitaciones. Por ejemplo, no consideraron incertidumbre sobre destinos de personajes. Todos reconocidos como niños/adultos con 100% certeza, y resultados vida/muerte estimados con 100% certeza.

Tampoco introdujeron factor relación hipotética (cónyuges, familiares) entre encuestados y personajes. Aunque asumiones eran irreales, eran necesarias para mantener experimento tratable.

Podemos no alcanzar acuerdo universal pero estos resultados pueden usarse por empresas tech y fabricantes para entender cómo reaccionaría público a ética de distintas decisiones de diseño y política.