Amazon Echo y el asistente de voz de Alexa han tenido problemas ampliamente publicitados con la privacidad. Si es el cantidad de datos que recopilan o el hecho de que, según los informes, pagan a los empleados y, a veces, a contratistas externos de todo el mundo para escuchar grabaciones para mejorar la precisión, existe la posibilidad de que se filtre información personal confidencial a través de estos dispositivos.
Pero los riesgos se extienden no solo a nuestra relación con Amazon. Están comenzando a surgir importantes problemas de privacidad en la forma en que los dispositivos Alexa interactúan con otros servicios, con el riesgo de una espiral distópica de aumento vigilancia y control.
La configuración del Echo convierte a Amazon en una puerta de enlace adicional por la que todas las interacciones en línea deben pasar, recopilando datos sobre cada una. Alexa sabe lo que está buscando, escuchando o enviando sus mensajes. Algunos teléfonos inteligentes ya lo hacen, particularmente aquellos fabricados por Google y Apple que controlan el hardware, el software y los servicios en la nube.
Pero la diferencia con un Echo es que reúne los peores aspectos de los teléfonos inteligentes y las casas inteligentes. No es un dispositivo personal, sino que está integrado en el entorno del hogar, siempre esperando escuchar. Alexa incluso presenta un proyecto de arte (no creado por Amazon) que trata de aclarar esto con el espeluznante "Pregunta a los oyentes"Que hace comentarios sobre cuánto te está espiando el dispositivo. Algunos dispositivos Echo ya tienen cámaras, y si se agregan capacidades de reconocimiento facial, podríamos ingresar a un mundo de monitoreo generalizado en nuestros espacios más privados, incluso rastreados mientras nos movemos entre ubicaciones.
{vembed Y = MnvJ4Bh60L8}
Esta tecnología le da a Amazon una gran cantidad de control sobre sus datos, que durante mucho tiempo ha sido el objetivo de la mayoría de los gigantes tecnológicos. Mientras Apple y Google - quienes se enfrentan a sus problemas de privacidad propios - tienen asistentes de voz similares, al menos han progresado ejecutando el software directamente en sus dispositivos para que no necesiten transferir grabaciones de sus comandos de voz a sus servidores. Amazon no parece estar tratando de hacer lo mismo.
Esto se debe, en parte, al agresivo modelo de negocio de la empresa. Los sistemas de Amazon no solo están diseñados para recopilar tantos datos como puedan sino también para crear formas de compartirlos. Entonces, los posibles problemas son mucho más profundos que Alexa escuchando en momentos privados.
Compartir con la policía
Un área de preocupación es el potencial para poner los oídos de las fuerzas del orden en nuestros hogares, escuelas y lugares de trabajo. Apple tiene un historial de resistencia a las solicitudes del FBI para los datos de los usuarios, y Twitter es relativamente transparente al informar sobre cómo responde a las solicitudes de los gobiernos.
Pero Ring, la compañía de cámaras de seguridad para el hogar conectada a Internet propiedad de Amazon, tiene una relación de alto perfil con la policía que involucra entrega de datos del usuario. Incluso la forma en que los ciudadanos y la policía se comunican es cada vez más monitoreado y controlado por Amazon.
Siempre escuchando Tomasso79 / Shutterstock
Esto corre el riesgo de incorporar una cultura de vigilancia estatal en las operaciones de Amazon, lo que podría tener consecuencias preocupantes. Hemos visto numerosos ejemplos de aplicación de la ley y otros organismos gubernamentales en países democráticos que utilizan datos personales para espiar a las personas, tanto en incumplimiento de la ley y dentro de ella pero por razones que van mucho más allá La prevención del terrorismo. Este tipo de vigilancia masiva también crea un grave potencial de discriminación, ya que se ha demostrado repetidamente que tiene un impacto peor en mujeres y minoría grupos.
Si Amazon no está dispuesto a retroceder, no es difícil imaginar Entregas de grabaciones de Alexa a las solicitudes de empleados del gobierno y funcionarios encargados de hacer cumplir la ley que puedan estar dispuestos a violar el espíritu o la letra de la ley. Y dados los acuerdos internacionales de intercambio de inteligencia, incluso si confía en su propio gobierno, ¿confía en los demás?
En respuesta a este problema, un portavoz de Amazon dijo: “Amazon no divulga información del cliente en respuesta a las demandas del gobierno a menos que seamos obligados a hacerlo para cumplir con una orden legalmente válida y cegadora. Amazon se opone a las demandas excesivas o inapropiadas de manera habitual.
"Los clientes de Ring deciden si comparten imágenes en respuesta a las solicitudes de casos de investigación de la policía local. La policía local no puede ver ninguna información relacionada con los usuarios de Ring que recibieron una solicitud y si se negaron a compartir o rechazar futuras solicitudes". Agregó que aunque la policía local puede acceder a la aplicación Vecinos de Ring para denunciar actividades criminales y sospechosas, no pueden ver ni acceder a la información de la cuenta del usuario.
Seguimiento de problemas de salud
La salud es otra área en la que Amazon parece estar intentando tomar el control. El Servicio Nacional de Salud (NHS) del Reino Unido ha firmado un acuerdo para que se brinde asesoramiento médico proporcionado a través del eco. A primera vista, esto simplemente amplía las formas de acceder a información disponible públicamente, como el sitio web del NHS o la línea telefónica 111: no se comparten datos oficiales del paciente.
Pero crea la posibilidad de que Amazon pueda comenzar a rastrear la información de salud que solicitamos a través de Alexa, creando efectivamente perfiles de los historiales médicos de los usuarios. Esto podría estar vinculado a sugerencias de compras en línea, anuncios de terceros para terapias costosas o incluso anuncios que son potencialmente traumáticos (piense en mujeres que han sufrido abortos espontáneos) se muestran productos para bebés).
Un portavoz de Amazon dijo: “Amazon no crea perfiles de salud de los clientes basados en interacciones con el contenido de nhs.uk ni utiliza tales solicitudes con fines de marketing. Alexa no tiene acceso a ninguna información personal o privada del NHS ".
La crudeza y los problemas técnicos de la publicidad algorítmica violarían los estándares profesionales y morales que los servicios de salud se esfuerzan por mantener. Además, sería muy invasivo tratar los datos de la misma manera que muchas grabaciones Echo. ¿Desearía que un contratista externo al azar supiera que estaba pidiendo asesoramiento sobre salud sexual?
Transparencia
Subyacente a estos problemas hay una falta de transparencia real. Amazon es inquietante tranquilo, evasivo y reacio actuar cuando se trata de abordar las implicaciones de privacidad de sus prácticas, muchas de las cuales están enterradas en lo más profundo de sus términos y condiciones o configuraciones difíciles de encontrar. Incluso los usuarios expertos en tecnología no necesariamente conocen el alcance total de los riesgos de privacidad, y cuando se agregan funciones de privacidad, a menudo solo informar a los usuarios después de que los investigadores o la prensa planteen el problema. Es completamente injusto colocar tal carga sobre los usuarios para descubrir y mitigar cuáles son estos riesgos.
Entonces, si tiene un Echo en su hogar, ¿qué debe hacer? Hay muchos consejos disponibles sobre Cómo hacer que el dispositivo sea más privado, como configurar grabaciones de voz para eliminar o limitar automáticamente los datos que se comparten con terceros. Pero la tecnología inteligente casi siempre es tecnología de vigilancia, y el mejor consejo es no traer uno a su hogar.
En respuesta a los puntos principales de este artículo, un portavoz de Amazon le dijo a The Conversation:
En Amazon, la confianza del cliente es el centro de todo lo que hacemos y nos tomamos muy en serio la privacidad y la seguridad. Siempre hemos creído que la privacidad tiene que ser fundamental e incorporada a cada pieza de hardware, software y servicio que creamos. Desde el principio, hemos puesto a los clientes en control y siempre buscamos formas de hacer que sea aún más fácil para los clientes tener transparencia y control sobre su experiencia Alexa. Hemos introducido varias mejoras de privacidad, incluida la opción de eliminar automáticamente las grabaciones de voz después de tres o 18 meses, la capacidad de pedirle a Alexa que "elimine lo que acabo de decir" y "elimine lo que dije hoy", y el Alexa Privacy Hub, un recurso disponible a nivel mundial que se dedica a ayudar a los clientes a aprender más sobre nuestro enfoque de privacidad y los controles que tienen. Continuaremos inventando más funciones de privacidad en nombre de los clientes.
Este artículo se ha modificado para dejar en claro que la función "Preguntar a los oyentes" es un proyecto de arte creado por un tercero.
Sobre la autora
Garfield Benjamin, investigador postdoctoral, Escuela de Artes y Tecnología de los Medios, Universidad de Solent
Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.
