Reconstruyendo la Confianza Pública en IoT tras Alexa: Una Nueva Era de Privacidad

La recopilación masiva de datos ha sido la norma por años, pero la marea empieza a girar, con usuarios adoptando herramientas y servicios centrados en privacidad en números récord.

Hace solo unos años, los asistentes de hogar inteligente eran la última tecnología "imprescindible". Aunque tenían funcionalidad limitada, su novedad, junto con un precio relativamente bajo (y reducciones estratégicas en fiestas) los hacían casi irresistibles para consumidores. De repente, empresas tecnológicas tenían acceso a más información personal de la que sabían qué hacer. De hecho, al año pasado, había altavoces inteligentes en más de 500 millones de hogares en el mundo.

Ver también: Privacidad, Clave que Frena Grandes Proyectos de Ciudades Inteligentes

Más recientemente, estos dispositivos han empezado a caer en desgracia con el público. Casi cada semana hay un nuevo escándalo de privacidad de datos, y como resultado, la gente empieza a importarle más quién tiene acceso a su información personal. Para muchos, la idea de tener un asistente siempre encendido, siempre escuchando, ya no es tan atractiva.

Las empresas tecnológicas han perdido la confianza del público, pero los asistentes inteligentes aún tienen mucho potencial, especialmente dado lo útiles que podrían volverse con futuros avances en machine learning. Avanzando, la responsabilidad recae en fabricantes de altavoces inteligentes para probar que sus productos merecen una segunda oportunidad, y la mejor forma es con un examen largamente debido de su enfoque a privacidad de usuario.

¿Qué tipo de información almacenan los asistentes inteligentes?

Los datos exactos recopilados varían según el fabricante del dispositivo y capacidades de grabación (una unidad con cámara integrada, por ejemplo, podría grabar clips de video o reportar niveles de luz ambiental en diferentes horas). Sin embargo, el problema principal, al menos por ahora, es el audio. Específicamente, cuánto se graba, por qué se graba y qué se hace con la grabación una vez llega a servidores de la empresa.

Los asistentes activados por voz técnicamente siempre escuchan, pero no procesan peticiones hasta que oyen una palabra trigger específica. Estos triggers se eligen específicamente para ser secuencias de sílabas poco comunes (por ejemplo, "OK, Google," o "Alexa") para que el altavoz las identifique más fácilmente de conversaciones cotidianas.

El problema es que los algoritmos no son infalibles. Como resultado, los asistentes inteligentes pueden mal oír la palabra trigger y comenzar a grabar audio sin conocimiento del dueño. Si el algoritmo no está seguro si se dijo una palabra trigger, envía el clip de audio al personal de verificación de la empresa, que toma la decisión final. En teoría, este tipo de supervisión ayuda a reducir falsos positivos pero en práctica significa que, en cualquier momento, gente podría estar escuchando lo que ocurrió en tu hogar momentos antes.

El viaje de tus datos no termina ahí. La grabación se transcribe (y posiblemente anota por personal) antes de que ambas versiones se almacenen en servidores de la empresa (donde permanecen indefinidamente, incluso si borras conversaciones guardadas localmente en tu dispositivo). Si hiciste una petición, las acciones que tu asistente tomó en respuesta también pueden grabarse.

¿Es más seguro gestionar dispositivos IoT individualmente que usar un asistente inteligente?

Hipotéticamente, controlar bombillas, enchufes y termostatos inteligentes usando sus respectivas apps previene que tu asistente inteligente recolecte datos sobre tus otros dispositivos. Dicho esto, hay buena probabilidad de que estos dispositivos también estén recopilando alguna forma de información, y marcas menos conocidas unlikely harán información de privacidad detallada públicamente disponible, así que es difícil saber seguro qué opción es más segura.

Asumamos que el fabricante de tu bombilla inteligente puede ver información básica sobre tus hábitos de uso en tiempo real: color de la luz, intensidad actual, y si está encendida o no. Según investigadores de la Universidad de Texas en San Antonio, esto basta para identificar qué canción estás escuchando (asumiendo que tienes bombillas que cambian color con la música). Este experimento fue bastante limitado en alcance, pero si una empresa multi-millonaria con millones de horas de datos de voz decidiera replicarlo, es enteramente posible que pudiera escuchar tus conversaciones sin ni necesitar micrófono.

Incluso dispositivos relativamente simples como enchufes inteligentes recopilan información. Uno de los modelos más reconocidos graba 45 días de datos, incluyendo tus niveles de uso diario, fuerza de conexión Wi-Fi, cuánto cuesta tu electricidad por kWh, y cuánto tiempo el dispositivo ha estado en standby. Esta es suficiente información para hacer una suposición razonable sobre si estás empleado o no, cuántas personas viven contigo, y (si tienes múltiples enchufes inteligentes), la distribución aproximada de tu hogar. Este modelo específico también incluye un puerto micro-USB que el fabricante sugiere podría usarse para sensores adicionales en el futuro.

Los gigantes tecnológicos deben reconsiderar su enfoque a la privacidad

Si el público ha de seguir abrazando asistentes inteligentes, deben sentir que su privacidad es respetada. Las organizaciones empiezan a dar pequeños pasos en esta dirección, por ejemplo, añadiendo tapas de cámara a sus dispositivos, sin embargo gestos simbólicos como estos fallan el punto: la gente no se preocupa por lo que su dispositivo podría ver, les preocupa que esté observando en absoluto.

La tecnología en sí no es el problema: después de todo, asistentes activados por voz pueden ser extremadamente útiles, particularmente para gente con movilidad o visión limitadas. En cambio, el problema es que las empresas creando estos dispositivos tienen una mentalidad de "recopilar todo" que simplemente no es compatible con privacidad de usuario. Adoptando el enfoque privacy-first de tres pasos descrito abajo, los gigantes tecnológicos pueden calmar preocupaciones de usuarios de forma significativa. Esto, a su vez, asegura que clientes existentes continúen usando el servicio e incluso puede animar a algunos a actualizar cuando salgan modelos nuevos.

1. Eliminar el secretismo

La gente está tan acostumbrada a políticas de privacidad problemáticas que las aceptan automáticamente. Al fin y al cabo, la alternativa es no usar un dispositivo que ya pagaste. Avanzando, asistentes inteligentes deberían solo recopilar datos estrictamente requeridos para una tarea específica, y esta información debería borrarse (tanto localmente como de registros del fabricante) una vez cumplido su propósito. Usuarios también deberían poder optar por no ciertas funciones si no aceptan dar permisos requeridos, muy parecido a como se puede hacer con apps en un celular.

¿Cómo funcionaría en práctica? Digamos que quieres direcciones a un restaurante particular. Tu asistente necesitaría saber tanto tu ubicación actual como tu destino. También podría preguntar tu hora de viaje prevista para encontrar info de transporte público, pero esto no es dato crítico, y solo debería considerarse si el usuario lo da voluntariamente. Una vez el usuario llega, sus datos de destino ya no son necesarios, y pueden descartarse seguramente (de nuevo, a menos que el usuario específicamente añada una ubicación a una agenda).

En el ejemplo arriba, el usuario llega a su destino sin problemas, a pesar de proporcionar información mínima. En contraste, si intentaras esto con dispositivos actuales, tu asistente inteligente podría averiguar no solo a dónde vas, sino qué tipo de establecimiento es, qué tan seguido vas, y qué tan popular es con otros en tu área. Esta funcionalidad no se usa para mejorar tu experiencia; se usa para construir un perfil publicitario y como tal, puede prescindirse sin impacto notable en el usuario.

2. Proveer a usuarios las herramientas para gestionar sus propios datos

Simplemente, usuarios no deberían ser castigados por ser conscientes de privacidad. Si la gente ha de consentir verdaderamente dar su información personal, primero tienen que entender qué significa. Las empresas ya no deberían ofuscar sus políticas de recopilación de datos en docenas de páginas de terminología legal; clientes deberían poder ver exactamente qué tipo de información se graba. Más importante, esta información debería estar en formato fácilmente entendible, libre de medias verdades sobre metadatos o datasets anonimizados. Usuarios también deberían ser informados por qué cada pieza de dato se graba, y cómo pueden borrarla, si así lo eligen.

Hoy, puede tomar semanas averiguar qué datos tiene una empresa particular sobre ti. Ciertos sitios web hacen este proceso más fácil que otros, pero aún puedes esperar esperar al menos unas horas tras encontrar la opción apropiada en un laberinto de submenús.

¿Por qué no debería ver tu información personal ser tan simple como sea posible? Usuarios deberían poder decidir por sí mismos si una empresa merece acceso a sus datos o no. En el futuro, necesita ser mucho más fácil ver tus datos, pero no hay por qué parar ahí.

Por ejemplo, ahora, la mayoría de asistentes inteligentes no permiten a usuarios borrar grabaciones de voz automáticamente o ver estadísticas detalladas como qué tan seguido sus clips de audio fueron referidos para verificación manual. Estas no son características especialmente avanzadas, pero ayudarían mucho a recuperar confianza pública y construir reputación como empresa tecnológica transparente y consciente de privacidad.

3. Reducir intervención de terceros al mínimo

Los asistentes inteligentes más conocidos llevan años operando. Colectivamente, tienen acceso a un rango más amplio de datos de voz que nadie más, nunca, con todo tipo de idiomas y acentos representados. Si, tras millones de dólares de inversión y años afinando el algoritmo, el personal aún tiene que intervenir manualmente frecuentemente solo para ver si se usó una palabra trigger, las empresas pueden tener que aceptar que los métodos actuales simplemente no funcionan.

Hay muchas otras formas de reducir falsos positivos sin hacer que usuarios se preocupen por quién escucha. Por ejemplo, limitando las horas en que tu asistente está operativo, reduces la chance de que ruido de fondo sea mal identificado como palabra trigger. Muchos altavoces inteligentes ya permiten a usuarios crear rutinas personalizadas como reproducir música a cierta hora cada día; esta tech ciertamente podría extenderse para programar "tiempos de silencio" (como las primeras horas de la mañana), donde el asistente simplemente no responderá a comandos verbales.

Algunos servicios adoptaron recientemente reconocimiento de voz individual, donde el asistente solo responderá a personas específicas. Sin embargo, esto entrena al asistente usando solo un puñado de frases (probablemente para maximizar conveniencia del usuario). Esto podría llevar a situaciones donde acepte comandos de gente que simplemente tiene acento o tono similar a un usuario autorizado. En contraste, un número mayor de frases de entrenamiento debería ayudar al asistente a honear en qué hace única la voz de una persona, reduciendo así el rango de entradas aceptadas y, a su vez, el número de falsos positivos.

Finalmente, asistentes en hogares con número anormalmente alto de falsos positivos podrían ofrecer una característica que grabe ruido de fondo en varios momentos del día. Esto podría usarse para adaptar el modelo de reconocimiento de voz para hogares particulares de forma que sea menos probable ser activado por factores ambientales como tráfico fuera, aviones encima, o frecuencias inaudibles.

Las prácticas actuales de recopilación de datos no pueden durar

El único problema real que la gente tiene con asistentes de hogar inteligente es que sienten que les vigilan. El problema es que tienen razón. La recopilación masiva de datos ha sido la norma por años, pero la marea empieza a girar, con usuarios adoptando herramientas y servicios centrados en privacidad en números récord. Los asistentes inteligentes tienen enorme potencial, pero al final, si sus creadores fallan en adaptarse a esta nueva actitud user-first, corren riesgo de quedarse atrás.