La vida después de Alexa:reconstruir la confianza pública en IoT

La recopilación masiva de datos ha sido la norma durante años, pero la marea está comenzando a cambiar, y los usuarios adoptan herramientas y servicios centrados en la privacidad en números récord

Hace solo unos años, los asistentes domésticos inteligentes eran la última tecnología imprescindible. A pesar de que tenían una funcionalidad limitada, su novedad, junto con un punto de precio relativamente bajo (y reducciones estratégicas de precios durante las vacaciones) los hizo casi irresistibles para los consumidores. De repente, las empresas de tecnología tuvieron acceso a más información personal de la que sabían qué hacer con ella. De hecho, desde el año pasado, había altavoces inteligentes en más de 500 millones de hogares en todo el mundo.

Ver también: La privacidad es un problema clave que estanca los principales proyectos de ciudades inteligentes

Sin embargo, más recientemente, estos dispositivos han comenzado a caer en desgracia entre el público. Casi todas las semanas, hay un nuevo escándalo de privacidad de datos y, como resultado, las personas comienzan a preocuparse más por quién tiene acceso a su información personal. Para muchos, la idea de tener un asistente analsiempre conectado y siempre escuchando ya no es tan atractiva.

Las empresas tecnológicas han perdido la confianza del público, pero los asistentes inteligentes todavía tienen mucho potencial, especialmente teniendo en cuenta lo útiles que podrían llegar a ser con los avances futuros en el aprendizaje automático. En el futuro, los fabricantes de parlantes inteligentes tienen la responsabilidad de demostrar que sus productos merecen una segunda oportunidad, y la mejor manera de hacerlo es con un examen pendiente de su enfoque de la privacidad del usuario.

¿Qué tipo de información almacenan los asistentes inteligentes?

Los datos exactos que se recopilan varían según el fabricante del dispositivo y las capacidades de grabación (una unidad con una cámara integrada, por ejemplo, puede grabar videoclips o informar sobre los niveles de luz ambiental en diferentes momentos del día). Sin embargo, el principal problema, al menos por ahora, es el audio. Específicamente, cuánto se graba, por qué se graba y qué se hace con la grabación una vez que llega a los servidores de la empresa.

Los asistentes activados por voz técnicamente siempre están escuchando, pero no procesarán las solicitudes hasta que escuchen una palabra desencadenante específica. Estos activadores se eligen específicamente para que sean secuencias poco comunes de sílabas (por ejemplo, "OK, Google" o "Alexa") para que el hablante pueda identificarlos más fácilmente en las conversaciones diarias.

El problema es que los algoritmos no son infalibles. Como resultado, los asistentes inteligentes pueden escuchar mal la palabra desencadenante y comenzar a grabar audio sin el conocimiento del propietario. Si el algoritmo no está seguro de si se dijo una palabra desencadenante, envía el clip de audio al personal de verificación de la empresa, quien toma la decisión final. En teoría, este tipo de supervisión ayuda a reducir el número de falsos positivos, pero en la práctica significa que, en cualquier momento, las personas podrían estar escuchando lo que sucedió en su hogar momentos antes.

Sin embargo, el viaje de sus datos no termina allí. Luego, la grabación se transcribe (y posiblemente el personal la anota) antes de que ambas versiones se almacenen en los servidores de la empresa (donde permanecen indefinidamente, incluso si elimina las conversaciones almacenadas localmente en su dispositivo). Si realizó una solicitud, también se pueden registrar las acciones que tomó su asistente en respuesta.

¿Es más seguro administrar dispositivos IoT de forma individual que usar un asistente inteligente?

Hipotéticamente, el control de bombillas, enchufes y termostatos inteligentes con sus respectivas aplicaciones impide que el asistente inteligente recopile datos sobre otros dispositivos. Dicho esto, existe una buena posibilidad de que estos dispositivos también recopilen algún tipo de información, y es poco probable que las marcas menos conocidas pongan a disposición del público información detallada sobre privacidad, por lo que es difícil saber con certeza qué opción es más segura.

Supongamos que su fabricante de bombillas inteligentes puede ver información básica sobre sus hábitos de uso en tiempo real:de qué color es la luz, su intensidad de color actual y si la luz está encendida o no. Según investigadores de la Universidad de Texas en San Antonio, esto es suficiente para identificar qué canción estás escuchando (asumiendo que tienes el tipo de bombillas que cambian de color en respuesta a la música). Este experimento tuvo un alcance bastante limitado, pero si una empresa multimillonaria con millones de horas de datos de voz decidiera replicarlo, es muy posible que pueda escuchar sus conversaciones sin siquiera necesitar usar un micrófono.

Incluso los dispositivos relativamente simples, como los enchufes inteligentes, recopilan información. Uno de los modelos más reconocidos registra 45 días de datos, incluidos los niveles de uso diario, la intensidad de la conexión Wi-Fi, cuánto cuesta la electricidad por kWh y cuánto tiempo ha estado el dispositivo en modo de espera. Esta es información suficiente para hacer una suposición razonable sobre si está empleado o no, cuántas personas lo acompañan y (si tiene varios enchufes inteligentes), el diseño aproximado de su hogar. Este modelo específico también incluye un puerto micro-USB que, según sugiere el fabricante, podría usarse para sensores adicionales en el futuro.

Los gigantes tecnológicos deben reconsiderar su enfoque de la privacidad

Si el público quiere seguir adoptando los asistentes inteligentes, debe sentir que se respeta su privacidad. Las organizaciones están comenzando a dar pequeños pasos en esta dirección, por ejemplo, agregando cubiertas de cámara a sus dispositivos, sin embargo, gestos simbólicos como estos pierden el punto:las personas no están preocupadas por lo que su dispositivo pueda ver, les preocupa que sea mirando en absoluto.

La tecnología en sí no es el problema:después de todo, los asistentes activados por voz pueden ser extremadamente útiles, especialmente para personas con movilidad o visión limitadas. En cambio, el problema es que las empresas que crean estos dispositivos tienen una mentalidad de "recoger todo" que simplemente no es compatible con la privacidad del usuario. Al adoptar el enfoque de privacidad primero de tres pasos que se describe a continuación, los gigantes tecnológicos pueden disipar las preocupaciones de los usuarios de manera significativa. .

1. Prescindir del secreto

La gente está tan acostumbrada a las políticas de privacidad problemáticas que simplemente las acepta automáticamente. Después de todo, la alternativa es no usar un dispositivo que ya pagó. En el futuro, los asistentes inteligentes solo deben recopilar los datos estrictamente necesarios para una tarea específica, y esta información debe eliminarse (tanto localmente como de los registros del fabricante) una vez que haya cumplido su propósito. Los usuarios también deberían poder optar por no participar en ciertas funciones si no están de acuerdo en proporcionar los permisos requeridos, tal como se puede hacer con las aplicaciones en un teléfono celular.

¿Cómo funcionaría esto en la práctica? Supongamos que desea obtener indicaciones para llegar a un restaurante en particular. Su asistente necesita saber tanto su ubicación actual como su destino. También puede solicitar su tiempo de viaje previsto para encontrar información de transporte público y pronto, pero estos no son datos críticos y solo deben tenerse en cuenta si el usuario los proporciona voluntariamente. Una vez que el usuario llega, sus datos de destino ya no son necesarios y se pueden descartar de manera segura (nuevamente, a menos que el usuario agregue específicamente una ubicación a una libreta de direcciones).

En el ejemplo anterior, el usuario logra llegar a su destino sin ningún problema, a pesar de proporcionar una información mínima. Por el contrario, si probara esto con los dispositivos actuales, su asistente inteligente podría averiguar no solo a dónde va, sino también qué tipo de establecimiento es, con qué frecuencia lo visita y qué tan popular es entre otros en su área. . Esta funcionalidad no se utiliza para mejorar su experiencia; se utiliza para construir un perfil publicitario y, como tal, se puede prescindir de un impacto imperceptible en el usuario.

2. Proporcione a los usuarios las herramientas que necesitan para administrar sus propios datos

En pocas palabras, los usuarios no deben ser castigados por ser conscientes de la privacidad. Si las personas realmente van a dar su consentimiento para dar su información personal, primero tienen que entender lo que esto significa. Las empresas ya no deberían ofuscar sus políticas de recopilación de datos en docenas de páginas de terminología legal; los clientes deben poder ver exactamente qué tipo de información se registra. Más importante aún, esta información debe estar en un formato fácilmente comprensible, libre de medias verdades sobre metadatos o conjuntos de datos anónimos. También se debe informar a los usuarios por qué se registra cada dato y cómo pueden eliminarlo, si así lo desean.

En estos días, puede llevar semanas averiguar qué datos tiene una empresa en particular sobre usted. Ciertos sitios web hacen que este proceso sea más fácil que otros, pero aún puede esperar al menos unas horas después de encontrar la opción adecuada en un laberinto de submenús.

¿Por qué no debería ser lo más simple posible ver su información personal? Los usuarios deberían poder decidir por sí mismos si una empresa merece acceder a sus datos o no. En el futuro, debe ser mucho más fácil ver sus datos, pero no hay necesidad de quedarse ahí.

Por ejemplo, en este momento, la mayoría de los asistentes inteligentes no permiten a los usuarios eliminar grabaciones de voz automáticamente o ver estadísticas detalladas, como la frecuencia con la que sus clips de audio se remitieron para verificación manual. Estas no son características especialmente avanzadas, pero contribuirían en gran medida a recuperar la confianza del público y construir una reputación como una empresa de tecnología transparente y consciente de la privacidad.

3. Reducir al mínimo la intervención de terceros

Los asistentes inteligentes más conocidos llevan años funcionando. Colectivamente, tienen acceso a una gama más amplia de datos de voz que cualquier otra persona, con todo tipo de idiomas y acentos representados. Si, después de millones de dólares de inversión y años de ajuste del algoritmo, el personal aún tiene que intervenir manualmente con frecuencia solo para ver si se usó una palabra desencadenante, es posible que las empresas tengan que aceptar que los métodos actuales simplemente no funcionan.

Hay muchas otras formas de reducir el número de falsos positivos sin que los usuarios se preocupen por quién está escuchando. los altavoces ya permiten a los usuarios crear rutinas personalizadas, como reproducir música a una hora determinada cada día; Es casi seguro que esta tecnología podría extenderse para programar "momentos de silencio" (como las primeras horas de la mañana), donde el asistente simplemente no responderá a los comandos verbales.

Algunos servicios han adoptado recientemente el reconocimiento de voz individual, donde el asistente solo responderá a personas específicas. Sin embargo, esto entrena al asistente usando solo unas pocas frases (probablemente para maximizar la conveniencia para el usuario). Esto podría conducir a situaciones en las que acepta comandos de personas que simplemente tienen un acento o tono similar al de un usuario autorizado. Por el contrario, una mayor cantidad de frases de entrenamiento debería ayudar al asistente a concentrarse en lo que realmente hace que la voz de una persona sea única, reduciendo así el rango de entradas aceptadas y, a su vez, la cantidad de falsos positivos.

Finalmente, los asistentes en hogares con un número anormalmente alto de falsos positivos podrían ofrecer una función que registra el ruido de fondo en varios momentos diferentes del día. Luego, esto podría usarse para adaptar el modelo de reconocimiento de voz para hogares particulares, de modo que sea menos probable que se active por factores ambientales como el tráfico exterior, los aviones que sobrevuelan o frecuencias inaudibles.

Las prácticas actuales de recopilación de datos no pueden durar

El único problema real que tienen las personas con los asistentes de hogares inteligentes es que sienten que están siendo observados. El problema es que son correctos. La recopilación masiva de datos ha sido la norma durante años, pero la marea está comenzando a cambiar, y los usuarios adoptan herramientas y servicios centrados en la privacidad en números récord. Los asistentes inteligentes tienen un gran potencial, pero en última instancia, si sus creadores no logran adaptarse a esta nueva actitud de dar prioridad al usuario, corren el riesgo de quedarse atrás.