IA subcontratada y aprendizaje profundo en la industria de la salud:¿está en riesgo la privacidad de los datos?

Jonathan Martin de Anomali

Como tecnologías emergentes, se ha demostrado que la inteligencia artificial (IA) y el aprendizaje profundo brindan información empresarial poderosa. Esto es especialmente cierto para la industria de la salud, dice Jonathan Martin, director de operaciones para EMEA en Anomali . , donde Freemium AI y paquetes de software de aprendizaje automático como theano, torch, cntk y tensorflow pueden predecir de manera efectiva afecciones médicas como cáncer, ataques cardíacos y muchos otros diagnósticos basados ​​en imágenes.

La integración de la inteligencia artificial y el aprendizaje profundo en las prácticas médicas es, por lo tanto, un próximo paso inevitable y crítico para la industria de la salud, aunque tal esfuerzo no está exento de desafíos.

Uno de los problemas más urgentes que impide que las organizaciones aprovechen al máximo estas tecnologías es la falta de personal capacitado técnicamente. Hay muchos profesionales de la ciberseguridad que probablemente podrían satisfacer la demanda de talento técnico, pero con una oferta ya limitada de profesionales en la propia industria de la ciberseguridad, es poco probable que la oferta satisfaga la demanda en el corto plazo.

Para complicar aún más las cosas para la industria de la salud, la implementación de estas tecnologías requiere acceso a información de identificación personal (PII), que es uno de los datos más específicos en los ataques cibernéticos debido a su naturaleza sensible y, por lo tanto, lucrativa.

La Sociedad Nacional de Salud (NHS) eligió eludir problemas de personal y privacidad de datos al asociarse con Deepmind , una empresa adquirida por Alphabet / Google. Esto le dio a Deepmind acceso a 1,6 millones de registros médicos, que incluían información sobre análisis de sangre, diagnósticos médicos, registros históricos de pacientes e incluso datos más confidenciales, como el diagnóstico de VIH y el uso previo de medicamentos. Si se trataba de un riesgo adecuado o no, ha sido fuente de controversias en la industria.

Como vimos en el ataque de WannaCry al NHS, un ciberataque puede tener efectos devastadores en la industria. Sin embargo, esto no debería impedir que las organizaciones compartan y analicen la información de forma avanzada. La inteligencia artificial y otras tecnologías son esenciales para el progreso de la atención médica, y la contratación de talento técnico es fundamental para aprovechar completamente el poder que tienen de una manera segura que elimina la necesidad de subcontratar. Las organizaciones también deben mantener la coherencia de las mejores prácticas de esfuerzo para minimizar el riesgo de una organización.

Una de estas mejores prácticas incluye la redacción de toda la información de identificación personal. En su lugar, cualquier organización que subcontrate datos debe utilizar seudónimos, donde el identificador único y la PII están en manos de la entidad de confianza. También se debe eliminar la información semisensible que tendría valor para el modelo de aprendizaje automático. La ubicación geográfica de un paciente es un ejemplo perfecto.

Estos datos pueden ser un poderoso indicador de una enfermedad, pero los datos sin procesar podrían usarse para realizar ingeniería inversa de la PII de un paciente determinado. Descartar dicha información es una compensación efectiva entre potenciar el poder de predicción de la IA y proteger la confidencialidad del paciente.

Estas estrategias de mejor esfuerzo pueden ayudar a mitigar la mayoría de las preocupaciones; sin embargo, este no es un método infalible para asegurar la confidencialidad. Por el momento, no es posible garantizar que la IA no pueda reconstruir su PII. En un estudio de CMU, los investigadores encontraron que los números de seguridad social eran sorprendentemente predecibles y que el algoritmo de inteligencia artificial normalmente podía reconstruir un número de seguridad social a partir de información como la fecha de nacimiento y el sexo.

En el futuro, las organizaciones pueden buscar tecnología más avanzada para asegurar los esfuerzos de subcontratación de datos privados. Los desarrollos recientes en el aprendizaje federado podrían aumentar la flexibilidad y permitir que los grupos almacenen datos en sus instalaciones. También se está desarrollando otra tecnología relacionada de cifrado homomórfico. Con el cifrado homomórfico, los cálculos se realizan en datos cifrados sin tener que descifrar los datos, lo que reduce significativamente la preocupación por la seguridad.

Por el momento, todavía estamos a años de que la tecnología resuelva directamente el problema de la privacidad de los datos. Sin embargo, la promesa de los beneficios de la IA es demasiado grande para que la industria de la salud espere. En un futuro cercano, las industrias deben lograr un equilibrio para proteger a los ciudadanos y prevenir vulnerabilidades innecesarias.

El autor de este blog es Jonathan Martin, director de operaciones de EMEA en Anomali