Implementando Internet de todo:control impulsado por IA para seguridad y privacidad

Una Internet de Todo universal que lo ve todo y lo sabe todo requiere control:¿Cómo le damos a la tecnología una mirada más cercana a nuestras actividades y al mismo tiempo evitamos los problemas de privacidad y seguridad? Es casi seguro que la IA es el único camino para lograr ese control.

Supongamos que la tecnología pudiera ayudarle a encontrar lo que desea comprar al precio más bajo posible. Supongamos que la tecnología pudiera evitar que un automóvil lo atropelle mientras camina. Supongamos que la tecnología pudiera hacer que los vehículos autónomos fueran totalmente efectivos y seguros, que hiciera imposible perderse o no reconocer a una persona o un punto de referencia. Supongamos que todo esto se pudiera hacer mediante un conjunto de iniciativas que aprovecharan lo que ya sabemos y utilizamos. ¿Interesado? ¿Imposible? Sí a lo primero, seguramente, y NO a lo segundo…tal vez. Bienvenido al Internet de todo.

El concepto de "Internet de las cosas" apareció oficialmente en una declaración del MIT de Kevin Ashton:"... las personas tienen tiempo, atención y precisión limitados. Todo lo cual significa que no son muy buenos para capturar datos sobre cosas en el mundo real. Si tuviéramos computadoras que supieran todo lo que hay que saber sobre las cosas, usando los datos que recopilaron sin nuestra ayuda, seríamos capaces de rastrear y contar todo y reducir en gran medida el desperdicio, las pérdidas y los costos. Sabríamos cuándo es necesario reemplazar, reparar o retirar las cosas y si son necesarias. frescos o pasados de su mejor momento”.

Creo que lo importante de esto es que no se trata de las cosas limitadas que hoy llamamos IoT, sino de una Internet universal de todo que lo ve todo y lo sabe todo.

Hoy en día sabemos mucho, pero no lo sabemos todo. Seguramente es posible que una aplicación sepa qué queremos comprar y dónde nos encontramos en ese momento. Sería posible que supiera, es decir, averiguara, los precios de las cosas que queremos en lugares cercanos a nuestra aplicación, pero significaría mucha complejidad y costo por lo que podría ser un beneficio bastante marginal. Si pudiéramos hacer las otras cosas con las que abrí, entonces ayudarnos a ingresar a la tienda correcta podría ser una adición de bajo costo, pero realmente no podemos hacer eso. Tenemos “saber” pero no “ver”.

Este material de ver y saber es importante porque ilustra lo bueno y lo malo de una Internet y de sus aplicaciones impulsadas por humanos. Vemos y adquirimos una comprensión en tiempo real del mundo real. Sensores de IoT... bueno...sentido . Quizás sea útil conocer la temperatura, la presión barométrica, la ubicación y la velocidad relativa, pero no es como mirar por la ventanilla del coche si estás intentando navegar. En 1999, cuando Ashton hizo sus comentarios, no teníamos una forma práctica de imitar el sentido visual humano para recopilar datos del mundo real. Con la IA, ahora tenemos eso en la “computación espacial” y podríamos realizar todo lo que mencioné en el primer párrafo, e incluso más.

Bien, si “ahora tenemos” lo que necesitamos, ¿por qué no tenemos todas esas aplicaciones hoy? Dije que había una especie de brecha entre ver y saber, pero ¿no es eso inconsistente con la noción de que tenemos lo que necesitamos? Si no hay un gran avance técnico que debamos buscar para desbloquear ese maravilloso futuro, ¿cuál lo habrá? Respuesta:La tecnología realmente no es el problema, es social.

"El hermano mayor te está vigilando" es un eslogan que expresa el riesgo de vigilancia a gran escala. Podríamos identificar a los delincuentes que caminan por la calle con un despliegue generalizado de vídeo, y la misma tecnología podría advertirnos que no nos incorporemos al tráfico. Pero lo mismo podría ayudar a las personas a acechar a otras, espiarlas y tal vez exponer algunos secretos que preferiríamos mantener ocultos. Dado que la persona promedio piensa que todo puede ser pirateado, y que muchos piensan que el gobierno ya está tratando de espiarnos, no es difícil entender por qué las empresas son reacias a promover el uso de tecnología que todo lo sabe, incluso el uso restringido.

¿Uso limitado como qué? Uno de mis contactos habituales es un abogado laboralista de bastante renombre. Le pregunté sobre el uso del monitoreo por video para protegerse contra accidentes en el lugar de trabajo y dijo que “todos los sindicatos temerían que se hiciera un uso indebido, y todos los empleadores lo negarían y se lanzarían a hacer un uso indebido”. Otro contacto me dijo que tener un monitoreo de video exhaustivo para facilitar el uso seguro de los vehículos autónomos casi seguramente enfrentaría demandas de defensores de la privacidad, apoyados por legiones que a menudo están donde no deberían estar.

La privacidad es importante para todos nosotros. También lo es la seguridad, la salud y la vida. Es posible que estemos llegando a una etapa en la evolución tecnológica que nos exigirá que decidamos cómo equilibrar estas cosas entre sí. ¿Es el miedo a que la IA se vuelva loca un ejemplo de este tipo de preocupación? Creo que lo es. Y creo que mucho antes de que la IA pudiera surgir y amenazarnos con la extinción, podría surgir y salvarnos o exponernos. Hemos tenido presión para crear barreras de seguridad contra la IA, pero esas presiones han eludido en gran medida la más amplia, la más impactante y la más inmediata:que es la capacidad de la IA y el video combinados para permitir que el mundo real, incluidos cada uno de nosotros, sea observado por la tecnología.

La respuesta obvia a este problema es la gobernanza, un conjunto de reglas que limitan el uso y la tecnología para hacerlas cumplir. El problema, como suele ocurrir con lo "obvio", es que establecer las reglas sería difícil y restringir el uso a través de la tecnología sería difícil de hacer, y probablemente más difícil de lograr que la gente crea en ellas. Pensemos en las Tres Leyes de la Robótica de Asimov y en cuántas de sus historias se centraban en cómo trabajaba la gente para eludirlas. Hace dos décadas, un laboratorio de investigación realizó un experimento de colaboración por video que involucraba una pequeña cámara en las oficinas para que las personas pudieran comunicarse de forma remota. La mitad de la fuerza laboral cubrió su cámara cuando entraron. Conozco personas que rutinariamente cubren sus cámaras web cuando no están en un video chat o reunión programada, y probablemente usted también lo haga. ¿Y qué pasa si la luz no está encendida? Probablemente alguien ha pirateado.

Las preocupaciones sociales inevitablemente chocan con los intentos de integrar estrechamente la tecnología en nuestra forma de vivir. ¿Hemos llegado a un punto en el que abordar esas preocupaciones de manera convincente es esencial para permitir que la tecnología mejore aún más nuestro trabajo y nuestras vidas?

Contamos con videovigilancia generalizada, si no universal. En una caminata esta semana, encontré cámaras en timbres u otras cámaras en aproximadamente una cuarta parte de las casas por las que pasé, y apuesto a que hay incluso más en áreas comerciales. Me pregunto a cuántas personas les preocupa que los timbres los estén vigilando mientras están en el jardín. Apuesto a que son menos los que se preocupan de que la IA se levante y los mate, y sin embargo, los timbres son reales y la IA depredadora no lo es. Claramente podemos descartar este tipo de pensamiento y dejar de tapar nuestras cámaras web. ¿Podríamos sentirnos cómodos con la supervisión universal del vídeo? Tal vez, pero sería mejor si pudiéramos encontrar una solución al dilema de la gobernanza.

Lo cual podría ser posible con la IA por dos razones.

Cuanto más poderosa y de mayor alcance sea la IA, más difícil sería limitar su uso. Dudo que alguien esté en desacuerdo con eso. Teniendo esto en cuenta, sería cierto que los agentes de IA expertos, contenidos y centrados en temas serían más fáciles de limitar. Puede proteger y controlar una API, pero ¿cómo se protege y controla una relación conversacional? Volvemos a las Tres Leyes de Asimov, la segunda de las cuales es la obediencia. Dale autonomía a algo, incluida la IA, y le darás el potencial de inmiscuirse. En el contexto de nuestra visualización de vídeos de IA, corremos un mayor riesgo de pedirle a la IA que busque algo que de crear un agente de IA que solo pueda buscar ciertas cosas.

También podríamos utilizar agentes expertos en IA para gobernar las aplicaciones de IA. Ya existe una estrategia de “IA adversaria” en el aprendizaje automático en general, que trabaja para detectar la manipulación de datos para engañar al modelo. El mismo enfoque podría aplicarse a la gobernanza del uso de la IA, particularmente si la IA está diseñada para ofrecer solo resultados específicos en lugar de responder a preguntas generales. El reconocimiento facial, por ejemplo, podría limitarse a rostros que realmente figuran en un registro penal gubernamental. ¿Podría ser pirateado? Claro, pero no por el acosador promedio o el cónyuge sospechoso.

Lograr el “Internet de todo” es fundamental si queremos seguir avanzando en cómo la tecnología potencia nuestro trabajo y mejora nuestras vidas. Controlar cómo creamos un nuevo nivel de cercanía con la tecnología, evitando problemas de privacidad y seguridad y al mismo tiempo dándole a la tecnología una mirada más cercana a nuestras actividades, es fundamental para hacer realidad el Internet de Todo, y la IA es casi con seguridad el único camino para lograr ese control. Esa misión de la IA es lo que necesitamos para formular políticas para gobernar. El riesgo de que la IA nos lleve a todos a la extinción es mucho menor que el riesgo de que no venga a rescatarnos.

SUSCRÍBETE A NUESTRA NEWSLETTER

De nuestros editores directo a tu bandeja de entrada

Comience ingresando su dirección de correo electrónico a continuación.