Cómo los datos diversos y prácticas éticas impulsan la ingeniería responsable de IA

El viaje de ingeniería de Karen Panetta la llevó a identificar sesgos críticos en sistemas de reconocimiento facial y defender tecnología transparente que proteja el bienestar humano.

Por

• Esther Shittu, Redactora de noticias
• Shaun Sutner, Director Senior de Noticias

Publicado: 01 jul 2025

El camino para el título de ingeniería de Karen Panetta comenzó con el consejo de su padre de que su hábito de compras necesitaba ser sostenido por una carrera financiera sólida.

Después de pasar tiempo construyendo computadoras y diseñando CPUs, la fellow de IEEE y decana de educación de posgrado en ingeniería en la Universidad de Tufts buscó entrar en la academia. Sin embargo, se dio cuenta de que había un gran problema en el campo de la ingeniería.

"Dijeron: 'La contratamos para ser mentora de mujeres', y luego cuando llegué a mi primera clase, no había mujeres", relató Panetta en el último episodio del podcast Targeting AI de Informa TechTarget. "Así es como me convertí en mentora accidental, defensora y campeona para llevar audiencias inclusivas a la ingeniería."

Esa pasión luego se transfirió a la tecnología de IA cuando comenzó a trabajar para rescatar niños de la trata de personas.

"Noté que todos los conjuntos de datos que se entrenaban para reconocimiento facial eran tomados de frente, ambas orejas visibles", dijo Panetta. "La base de datos provenía principalmente de personas de color y bases de datos criminales. Así que fue como, OK, ahí está el sesgo."

En respuesta, Panetta y su equipo crearon una base de datos diversa de personas de todo el mundo, edades de 3 a 78 años. Las imágenes tienen personas en diferentes escenarios, ya sea con gafas de sol, máscaras o diferentes rotaciones de cabeza.

"La IA entrenada con datos muy prístinos no va a funcionar en el mundo real", dijo Panetta. "El mundo real no se traduce automáticamente a IA."

Panetta añadió que la tecnología de IA también necesita ser ética, lo que significa no dañar a las personas o sus medios de vida.

"Cuando hablamos de IA ética, hablamos de cómo la recopilamos, los derechos de las personas y cómo la vamos a usar", dijo.

Mientras tanto, la IA responsable se trata de poder explicar por qué el sistema de IA tomó la decisión que tomó, dijo.

Esther Shittu es redactora de noticias y presentadora de podcast de Informa TechTarget cubriendo software y sistemas de IA. Shaun Sutner es director senior de noticias para el equipo de gestión de información de Informa TechTarget, impulsando la cobertura de IA, analítica y tecnologías de gestión de datos, y gran tecnología y regulación federal. Es un periodista veterano con más de 30 años de experiencia en noticias. Juntos cubren el podcast Targeting AI.

Profundice en tecnologías de IA

• 11 ejemplos reales de IA agente y casos de uso

  Por: Mary Pratt

• Visión empresarial de IA de IBM para personalización, colaboración

  Por: Esther Shittu

• CEO de Black Girls Code dice que la diversidad en IA incluye a todos

  Por: Esther Shittu

• Cómo Cerebras aborda competir contra Nvidia

  Por: Esther Shittu