Hacer Realidad el Internet de Todo: Control Impulsado por IA para Seguridad y Privacidad

Un Internet de Todo universal que lo ve y sabe todo requiere control: ¿cómo damos a la tecnología una visión más cercana de nuestras actividades evitando los escollos de privacidad y seguridad? La IA es casi seguramente el único camino para lograr ese control.

Imagina que la tecnología pudiera ayudarte a encontrar lo que quieres comprar al precio más bajo posible. Imagina que la tecnología pudiera evitar que te atropelle un coche al caminar. Imagina que la tecnología pudiera hacer que los vehículos autónomos sean totalmente efectivos y seguros, que hiciera imposible perderse o no reconocer a una persona o un lugar. Imagina que todo esto pudiera hacerse con un conjunto de iniciativas que aprovecharan lo que ya sabemos y usamos. ¿Interesado? ¿Imposible? Sí a lo primero, desde luego, y NO a lo segundo… tal vez. Bienvenidos al Internet de Todo.

El concepto de "Internet de las cosas" llegó oficialmente en una declaración del MIT por Kevin Ashton: "…la gente tiene tiempo, atención y precisión limitados. Todo lo cual significa que no son muy buenos capturando datos sobre cosas en el mundo real. Si tuviéramos ordenadores que supieran todo lo que hay que saber sobre las cosas, usando datos que recopilaran sin ayuda nuestra, podríamos rastrear y contar todo y reducir enormemente el desperdicio, la pérdida y el coste. Sabríamos cuándo las cosas necesitan ser reemplazadas, reparadas o retiradas y si están frescas o pasadas."

Lo importante de esto, creo, es que no se trata de las cosas limitadas que llamamos IoT hoy, sino de un Internet de Todo universal que lo ve todo, lo sabe todo.

Hoy tenemos "saber-mucho", pero no "saber-todo". Seguramente es posible tener una aplicación que sepa lo que queremos comprar y dónde estamos en este momento. Sería posible que supiera, es decir, que averiguara, los precios de las cosas que queremos en lugares cercanos a nuestra aplicación, pero supondría mucha complejidad y coste para un beneficio quizá marginal. Si pudiéramos hacer las otras cosas que mencioné al principio, ayudarnos a entrar en la tienda correcta podría ser una adición de bajo coste, pero no podemos hacerlo realmente. Tenemos "saber" pero no "ver".

Esta cosa de ver-y-saber es importante porque ilustra lo bueno y lo malo de un Internet y aplicaciones impulsados por humanos. Vemos y adquirimos una comprensión en tiempo real del mundo real. Los sensores IoT… bueno… sienten. Quizá sea útil saber temperatura, presión barométrica, ubicación y velocidad relativa, pero no es como mirar por la ventanilla del coche si intentas navegar. En 1999, cuando Ashton hizo sus comentarios, no teníamos una forma práctica de imitar el sentido visual humano para recopilar datos del mundo real. Con la IA, ahora tenemos eso en "computación espacial" y podríamos hacer realidad todo lo que mencioné en el primer párrafo, e incluso más.

Vale, si "ahora tenemos" lo que necesitamos, ¿por qué no tenemos todas esas aplicaciones hoy? Dije que había una especie de brecha ver-y-saber, pero ¿no es eso inconsistente con la noción de que tenemos lo que necesitamos? Si no hay un gran avance técnico que debamos buscar para desbloquear ese futuro maravilloso, ¿qué lo hará? Respuesta: La tecnología realmente no es el problema, es social.

"El Gran Hermano te vigila" es una frase para el riesgo de vigilancia a gran escala. Podríamos identificar criminales caminando por la calle con despliegue generalizado de video, y la misma tecnología podría avisarnos contra cruzar la calle imprudentemente. Pero lo mismo podría ayudar a acosar a otros, espiar a gente y quizá exponer secretos que preferiríamos mantener ocultos. Dado que la persona promedio piensa que todo puede ser hackeado, y que muchos piensan que el gobierno ya intenta espiarnos, no es difícil entender por qué las empresas se resisten a promover el uso de tecnología que lo ve y sabe todo, incluso en uso limitado.

¿Uso limitado como qué? Uno de mis contactos regulares es una abogada laboralista bastante conocida. Le pregunté sobre el uso de videovigilancia para proteger contra accidentes laborales, y me dijo "todos los sindicatos temerían que se use mal, y todos los empleadores lo negarían mientras se apresuran a usarlo mal". Otro contacto me dijo que tener videovigilancia extensiva para facilitar el uso seguro de vehículos autónomos casi seguro enfrentaría demandas de defensores de la privacidad, apoyados por legiones que a menudo están donde no deberían.

La privacidad es importante para todos. También la seguridad, la salud, la vida. Podemos estar alcanzando una etapa en la evolución tecnológica que nos exigirá decidir cómo equilibramos estas cosas unas contra otras. ¿Es el miedo a que la IA se descontrole un ejemplo de este tipo de preocupación? Creo que sí. Y creo que mucho antes de que la IA pueda levantarse y amenazarnos con la extinción, podría levantarse y salvamos, o exponernos. Hemos tenido presión para crear barreras de seguridad en la IA, pero esas presiones han evitado en gran medida la más amplia, impactante e inmediata: la capacidad de la IA y el video combinados para dejar que el mundo real, incluyendo a cada uno de nosotros, sea observado por la tecnología.

La respuesta obvia a este problema es la gobernanza, un conjunto de reglas que restrinjan el uso y tecnología para hacerlas cumplir. El problema, como tan a menudo con lo "obvio", es que establecer las reglas sería difícil y restringir el uso mediante tecnología sería difícil de hacer, y probablemente más difícil de hacer creer a la gente. Piensa en las Tres Leyes de la Robótica de Asimov y cuántas de sus historias se centraron en cómo la gente trabajaba para eludirlas. Hace dos décadas, un laboratorio de investigación hizo un experimento de colaboración por video que involucraba una pequeña cámara en oficinas para que la gente pudiera comunicarse remotamente. La mitad de la plantilla tapó su cámara al llegar. Conozco gente que rutinariamente tapa sus webcams cuando no están en una videollamada programada, y tú probablemente también. ¿Y si la luz no está encendida? Alguien probablemente ha hackeado.

Las preocupaciones sociales inevitablemente chocan con los intentos de integrar la tecnología estrechamente con cómo vivimos. ¿Hemos llegado a un punto donde lidiar con esas preocupaciones de forma convincente es esencial para dejar que la tecnología mejore nuestro trabajo, nuestras vidas, más?

Tenemos vigilancia por video generalizada, si no universal. En un paseo esta semana, encontré cámaras de timbre u otras cámaras en aproximadamente un cuarto de las casas que pasé, y apostaría a que hay aún más en áreas comerciales. Me pregunto cuánta gente se preocupa de que sus timbres les vigilen mientras están en su jardín. Menos, apostaría, que los que se preocupan de que la IA se levante y los mate, y sin embargo los timbres son reales y la IA depredadora no. Claramente podemos descartar este tipo de pensamiento, dejar de tapar nuestras webcams. ¿Podríamos sentirnos cómodos con supervisión por video universal? Tal vez, pero sería mejor si pudiéramos encontrar una solución al dilema de la gobernanza.

Lo cual podría ser posible, con IA, por dos razones.

Cuanto más potente y de mayor alcance sea la IA, más difícil sería restringir cómo podría usarse. Dudo que alguien discrepe con eso. Dado eso, sería cierto que agentes de IA contenidos, enfocados en temas específicos y expertos serían más fáciles de restringir. Puedes asegurar y gobernar una API, pero ¿cómo aseguras y gobiernas una relación conversacional? Volvemos a las Tres Leyes de Asimov, la segunda de las cuales es obediencia. Dar autonomía a algo, incluyendo IA, le da el potencial de intrusión. En el contexto de nuestra IA observando por video, tenemos un mayor riesgo pidiendo a la IA que busque algo que creando un agente de IA que solo pueda buscar ciertas cosas.

También podríamos usar agentes de IA expertos para gobernar aplicaciones de IA. Ya existe una estrategia de "IA adversaria" en aprendizaje automático en general, trabajando para detectar manipulación de datos para engañar al modelo. El mismo enfoque podría aplicarse a la gobernanza del uso de IA, particularmente si la IA está diseñada para entregar solo resultados específicos en lugar de responder preguntas generales. El reconocimiento facial, por ejemplo, podría limitarse a rostros realmente en un registro criminal gubernamental. ¿Podría ser hackeado? Seguro, pero no por tu acosador promedio o cónyuge sospechoso.

Hacer realidad el "Internet de Todo" es crítico si queremos seguir avanzando en cómo la tecnología potencia nuestro trabajo y mejora nuestras vidas. Controlar cómo creamos un nuevo nivel de cercanía con la tecnología, evitando escollos de privacidad y seguridad mientras damos a la tecnología una mirada más cercana a nuestras actividades, es crítico para realizar el Internet de Todo, y la IA es casi seguramente el único camino para lograr ese control. Esa misión de IA es en la que necesitamos formular políticas para gobernar. El riesgo de que la IA venga a llevarnos a la extinción es mucho menor que el riesgo de que no venga a nuestro rescate.

SUSCRÍBETE A NUESTRO BOLETÍN

De nuestros editores directo a tu bandeja de entrada

Comienza ingresando tu dirección de correo electrónico a continuación.