Los vehículos autónomos tienen dificultades para detectar peatones de piel oscura

• Los coches autónomos son un 5% menos precisos en la detección de personas de piel oscura.
• Esto sucede porque la mayoría de los algoritmos de detección de objetos se han entrenado principalmente en conjuntos de datos que contienen imágenes de personas blancas.

Los modelos de aprendizaje automático han comenzado a encontrar hogares a lo largo de nuestra vida cotidiana. El campo de la conducción autónoma, en particular, ha pasado de "puede ser posible" a "ahora disponible comercialmente" en la última década.

Sin embargo, estos avances en los sistemas automatizados han generado muchas preocupaciones sobre los vehículos autónomos en los últimos años, y parece que la lista de preocupaciones se ha ampliado. Además de preocuparse por su seguridad y capacidad para superar obstáculos en las carreteras, también es necesario preocuparse por si los vehículos autónomos pueden dañar a las personas de color.

Ahora, los investigadores del Instituto de Tecnología de Georgia han realizado un estudio en el que concluyeron que los algoritmos utilizados en los sistemas de conducción autónoma son un 5% menos precisos para detectar peatones de piel oscura.

Tasas de error más altas para ciertos grupos demográficos que para otros

El equipo comenzó investigando la precisión de los modelos de detección de objetos de última generación que se utilizan principalmente en vehículos autónomos. Querían saber cómo detectan exactamente estos modelos a las personas de diferentes grupos demográficos.

Analizaron un conjunto de datos masivo que contenía imágenes de peatones y dividieron a las personas en función de su tono de piel. Luego observaron la frecuencia con la que dichos modelos identificaban con precisión la presencia de personas en el grupo de piel oscura, así como personas en el grupo de piel clara.

Referencia:arXiv:1902.11097 | Instituto de Tecnología de Georgia

Los investigadores descubrieron que estos modelos eran un 5% menos precisos, en promedio, en la detección de grupos de piel oscura. Esta inconsistencia siguió siendo la misma incluso después de ajustar algunos parámetros cruciales como la vista frecuentemente obstruida de los peatones y la hora del día en las imágenes.

El estudio solo considera modelos utilizados con fines de investigación, que se entrenan en conjuntos de datos disponibles públicamente. No analizó ningún modelo que realmente esté siendo utilizado por vehículos comerciales autónomos. Sin embargo, no significa que los hallazgos sean invaluables:estudios como estos brindan información sólida sobre fallas y riesgos reales.

Razones detrás de los algoritmos sesgados / racistas

Esta no es la primera vez que alguien publica un informe sobre algoritmos sesgados. El año pasado, un estudio descubrió que 3 sistemas de reconocimiento facial desarrollados por gigantes tecnológicos (Microsoft, IBM y Megvii) probablemente identificaran erróneamente el género de las personas de piel oscura con más frecuencia que las de piel clara.

Crédito de la imagen:Iyad Rahwan

Dado que los modelos de inteligencia artificial, especialmente los algoritmos de aprendizaje automático y aprendizaje profundo, aprenden de los conjuntos de datos de entrenamiento que se alimentan, si no proporciona suficiente variedad de datos, estos modelos no funcionarán con precisión cuando se implementen en el mundo real.

Lo mismo ocurre con los automóviles autónomos:los algoritmos de detección de objetos se habían entrenado principalmente en conjuntos de datos que contenían imágenes de personas blancas. Además, estos algoritmos no dieron mucha importancia al aprendizaje de conjuntos de datos limitados (personas con tonos de piel oscuros).

Leer:La nueva IA para vehículos autónomos puede predecir los movimientos de los peatones

Los investigadores creen que estos modelos se pueden mejorar si se incluyen ejemplos racialmente diversos y se hace más hincapié en ejemplos limitados durante la capacitación.