Cómo los datos diversos y las prácticas éticas impulsan la ingeniería de IA responsable

El viaje de ingeniería de Karen Panetta la llevó a identificar sesgos críticos en los sistemas de reconocimiento facial y defender la tecnología transparente que protege el bienestar humano.

Por

• Esther Shittu, redactora de noticias
• Shaun Sutner, director sénior de noticias

Publicado:01 de julio de 2025

El camino para obtener el título de ingeniería de Karen Panetta comenzó con el consejo de su padre de que su hábito de comprar debía sustentarse en una sólida carrera financiera.

Después de pasar algún tiempo construyendo computadoras y diseñando CPU, el miembro del IEEE y decano de educación de posgrado en ingeniería en la Universidad de Tufts buscó ingresar al mundo académico. Sin embargo, se dio cuenta de que había un gran problema en el campo de la ingeniería.

"Dijeron:'Te contrataremos para que seas mentora de mujeres', y luego, cuando llegué a mi primera clase, no había mujeres'", relató Panetta en el último episodio del podcast Targeting AI de Informa TechTarget. "Así es como me convertí accidentalmente en mentor, defensor y defensor de la idea de acercar audiencias inclusivas a la ingeniería".

Esa pasión luego se transfirió a la tecnología de inteligencia artificial cuando comenzó a trabajar para rescatar a niños de la trata de personas.

"Me di cuenta de que todos los conjuntos de datos que se entrenaron para el reconocimiento facial se tomaron directamente, mostrando ambas orejas", dijo Panetta. "La base de datos se tomó principalmente de personas de color y bases de datos criminales. Entonces fue como, está bien, hay sesgo ahí mismo".

En respuesta, Panetta y su equipo crearon una base de datos diversa de personas de todo el mundo, de entre 3 y 78 años. Las imágenes muestran a personas en diferentes escenarios, ya sea con gafas de sol, máscaras o diferentes rotaciones de cabeza.

"La IA entrenada con datos muy prístinos no funcionará en el mundo real", afirmó Panetta. "El mundo real no se traduce automáticamente en IA."

Panetta añadió que la tecnología de IA también debe ser ética, lo que significa no dañar a las personas ni a su sustento.

"Cuando hablamos de IA ética, nos referimos a cómo la recopilamos, los derechos de las personas y cómo vamos a utilizarla", afirmó.

Mientras tanto, la IA responsable consiste en poder explicar por qué el sistema de IA tomó la decisión que tomó, afirmó.

Esther Shittu es redactora de noticias de Informa TechTarget y presentadora de podcasts que cubre software y sistemas de inteligencia artificial. Shaun Sutner es director senior de noticias del equipo de gestión de información de Informa TechTarget, que impulsa la cobertura de IA, tecnologías de análisis y gestión de datos, y las grandes tecnologías y la regulación federal. Es un periodista veterano con más de 30 años de experiencia en noticias. Juntos cubren el podcast Targeting AI.

Profundice en las tecnologías de IA

• 11 ejemplos y casos de uso de IA agente del mundo real

  Por:Mary Pratt

• La visión de la IA empresarial de IBM para la personalización y la colaboración

  Por:Esther Shittu

• El director ejecutivo de Black Girls Code dice que la diversidad en la IA incluye a todos

  Por:Esther Shittu

• Cómo Cerebras aborda la competencia contra Nvidia

  Por:Esther Shittu