¿Debería un vehículo autónomo matar al peatón o al pasajero?

• Los investigadores diseñan un experimento para obtener una perspectiva humana sobre las decisiones morales tomadas por la inteligencia artificial.
• Analizaron millones de respuestas humanas y revelaron cuánto varía la ética entre culturas.

Estamos entrando en una era en la que las máquinas tienen la tarea no solo de minimizar el daño, sino también de distribuir el daño que no pueden eliminar. La distribución del daño (así como el bienestar que crea la máquina) generalmente crea compensaciones, cuya resolución cae dentro del dominio moral.

Considere una situación en la que un vehículo autónomo está a punto de chocar y no puede evaluar un camino que salvaría a todos. En tales casos, los vehículos deberán decidir cómo distribuir equitativamente el riesgo de daños entre diferentes personas en la carretera. Estos dilemas morales no pueden resolverse mediante ninguna ley de robótica o principios éticos humanos.

En 2014, los investigadores del MIT diseñaron un experimento llamado Moral Machine para recopilar una perspectiva humana sobre las decisiones morales tomadas por máquinas equipadas con inteligencia artificial, como los autos sin conductor. Hasta ahora, el experimento ha recibido más de 40 millones de respuestas de todo el mundo. Esto ofrece información valiosa sobre las prioridades éticas colectivas de varias culturas.

The Moral Machine prueba 13 escenarios diferentes en los que las personas deciden qué vehículo autónomo debe priorizar:

• Más vidas que menos
• Hombres sobre mujeres
• humanos sobre mascotas
• joven sobre viejo
• un estatus social más alto que un
• encajar sobre insalubre
• seguidor de la ley sobre infractor

Los investigadores analizaron todas las respuestas y revelaron cómo la ética humana varía según la ubicación geográfica, la economía y la cultura.

Descubrieron que diferentes países tienen preferencias diferentes. Por ejemplo, las personas de culturas colectivistas como Japón y China tienen más probabilidades de perdonar a los viejos que a los jóvenes. Considerando que, los países con culturas más individualistas tienen menos probabilidades de perdonar a los viejos.

Referencia:Naturaleza | DOI:10.1038 / s41586-018-0637-6 | Máquina moral

Del mismo modo, las personas de culturas individualistas, como los EE. UU. Y el Reino Unido, tienden a perdonar más vidas si se dan todas las demás opciones. Las personas de países en desarrollo con instituciones más débiles son más tolerantes con los peatones que cruzan imprudentemente que con los peatones que cruzan legalmente.

La preferencia por prescindir de los personajes de mayor estatus es mucho menos pronunciada en los países del Este (Japón, Taiwán, Arabia Saudita, Indonesia) y mucho más alta en los países del Sur (América Central y del Sur, Francia).

Los países occidentales y orientales exhiben una preferencia mucho mayor por salvar a los humanos sobre las mascotas, en comparación con los países del sur.

Limitaciones

A pesar del gran tamaño de la muestra, el estudio tiene numerosas limitaciones. Por ejemplo, los investigadores no consideraron la incertidumbre sobre el destino de los personajes. Todos los personajes fueron reconocidos como niños y adultos con un 100% de certeza, y sus resultados de vida y muerte se estimaron con un 100% de certeza.

Tampoco introdujeron el factor de relación hipotética (por ejemplo, cónyuges y parientes) entre los encuestados y los personajes. Aunque estas suposiciones eran poco realistas, eran necesarias para que el experimento fuera manejable.

Leer:A los vehículos autónomos les resulta difícil detectar a los peatones de piel oscura

Es posible que no logremos un acuerdo universal, pero las empresas de tecnología y los fabricantes de automóviles pueden utilizar estos resultados para comprender mejor cómo reaccionaría el público ante la ética de los diferentes diseños y decisiones políticas.