Dondequiera que vaya en línea, alguien está tratando de personalizar su experiencia web. Sus preferencias son anuladas, sus intenciones y motivaciones predichas. Esa tostadora a la que brevemente echaste un vistazo hace tres meses sigue volviendo a acechar tu navegación en las barras laterales de publicidad personalizadas. Y no es una calle de sentido único. De hecho, la mecánica bastante impersonal de algunos sistemas de personalización puede no solo influir en cómo vemos el mundo, sino también en cómo nos vemos a nosotros mismos.

Sucede todos los días, para todos nosotros mientras estamos en línea. Noticias de Facebook intenta entregar contenido a medida que "La mayoría de los intereses" usuarios individuales. El motor de recomendación de Amazon utiliza el seguimiento de datos personales combinado con los hábitos de navegación de otros usuarios para sugerir productos relevantes. Haz una búsqueda en Google para personaliza los resultados de búsqueda, y mucho más: por ejemplo, aplicación de personalización Ahora google busca "darle la información que necesita a lo largo de su día, incluso antes de preguntar". Dichos sistemas de personalización no solo buscan proporcionar relevancia a los usuarios; a través de estrategias de marketing específicas, también generan ganancias para muchos servicios web gratuitos.

Quizás la crítica más conocida de este proceso es la "Burbuja de filtro" teoría. Propuesto por activista de internet Eli Pariser, esta teoría sugiere que la personalización puede afectar negativamente las experiencias de los usuarios de la web. En lugar de estar expuestos a un contenido universal y diverso, los usuarios reciben material de forma algorítmica que coincide con sus puntos de vista preexistentes y autoafirmados. Por lo tanto, la burbuja de filtro plantea un problema para el compromiso democrático: al restringir el acceso a puntos de vista diversos y desafiantes, los usuarios no pueden participar en un debate colectivo e informado.

{youtube}6_sim_Wc3mY{/youtube}

Los intentos de encontrar evidencia de la burbuja de filtro han producido resultados mixtos. Algunos estudios han demostrado que la personalización puede conducir a una visión "miope" de un tema; otros estudios descubrieron que, en diferentes contextos, la personalización puede ayudar a los usuarios a descubrir contenido común y diverso. Mi investigación sugiere que la personalización no solo afecta la forma en que vemos el mundo, sino cómo nos vemos a nosotros mismos. Además, la influencia de la personalización en nuestras identidades puede no deberse a filtrar burbujas de consumo, sino porque en algunos casos la personalización en línea no es para nada "personal".

Seguimiento de datos y preferencia del usuario

Para comprender esto, es útil considerar cómo se logra la personalización en línea. Aunque los sistemas de personalización rastrean nuestros movimientos individuales en la web, no están diseñados para "conocernos" o identificarnos como individuos. En cambio, estos sistemas clasifican los movimientos y hábitos en tiempo real de los usuarios en conjuntos de datos masivos, y buscan patrones y correlaciones entre los movimientos de los usuarios. Los patrones encontrados y las correlaciones son entonces traducido de vuelta en categorías de identidad que podríamos reconocer (como edad, sexo, idioma e intereses) y en las que podríamos encajar. Al buscar patrones masivos para entregar contenido personalmente relevante, la personalización se basa de hecho en un proceso bastante impersonal.

Cuando la teoría de la burbuja de filtro surgió por primera vez en 2011, Pariser argumentó que uno de los mayores problemas con la personalización era que los usuarios no sabían que estaba sucediendo. Hoy en día, a pesar de las objeciones al seguimiento de datos, muchos usuarios son conscientes que están siendo rastreados a cambio del uso de servicios gratuitos, y que este seguimiento se usa para formas de personalización. Mucho menos claro, sin embargo, son los detalles de lo que se está personalizado para nosotros, cómo y cuándo.

Encontrar el 'personal'

Mi investigación sugiere que algunos usuarios asumen que sus experiencias se personalizan en grados complejos. En un estudio cualitativo en profundidad de los usuarios de la web de 36, al ver anuncios de productos de pérdida de peso en Facebook, algunas usuarias informaron que suponían que Facebook las había perfilado como sobrepeso u orientadas al ejercicio. De hecho, estos anuncios de pérdida de peso fueron entregados genéricamente a mujeres de 24-30. Sin embargo, debido a que los usuarios pueden desconocer la naturaleza impersonal de algunos sistemas de personalización, dichos anuncios orientados pueden tener un impacto perjudicial sobre cómo se ven estos usuarios: para decirlo crudamente, deben tener sobrepeso, porque Facebook les dice que sí.

No es solo la publicidad dirigida la que puede tener este impacto: en un estudio etnográfico y longitudinal llevado a cabo por un puñado de usuarios de Google Now de 18 y 19, descubrí que algunos participantes suponían que la aplicación era capaz de personalización en un grado extraordinariamente complejo . Los usuarios informaron que creían que Google Now les mostró información sobre acciones porque Google sabía que sus padres eran accionistas, o que Google (erróneamente) se adelantó a un "viaje" al "trabajo" porque los participantes una vez mintieron sobre estar mayores de edad en sus cuentas de YouTube. . No hace falta decir que este estudio a pequeña escala no representa los compromisos de todos los usuarios de Google Now: pero sí sugiere que para estas personas, las promesas predictivas de Google Now eran casi infalibles.

De hecho, críticas del diseño centrado en el usuario sugieren que la realidad de las inferencias de Google es mucho más impersonal: Google Now supone que es "Usuario ideal" tiene, o al menos debería, un interés en las existencias, y todos los usuarios son trabajadores que viajan diariamente. Dichas críticas destacan que son estas suposiciones las que estructuran en gran medida el marco de personalización de Google (por ejemplo, a través de la adhesión de la aplicación a categorías de "cartas" predefinidas como "Deportes", que durante mi estudio solo permitió a los usuarios "seguir" a los clubes de fútbol del Reino Unido en lugar de a las mujeres). Sin embargo, en lugar de cuestionar las suposiciones de la aplicación, mi estudio sugiere que los participantes se colocaron fuera de la norma esperada: confiaron en Google para contarles cómo deberían ser sus experiencias personales.

Aunque estos pueden parecer ejemplos extremos de inferencia algorítmica impersonal y suposición del usuario, el hecho de que no podemos estar seguros de lo que se está personalizando, cuándo o cómo son los problemas más comunes. Para mí, estos testimonios de usuarios destacan que la adaptación del contenido en línea tiene implicaciones más allá del hecho de que podría ser perjudicial para la democracia. Sugieren que, a menos que comencemos a comprender que la personalización a veces puede operar a través de marcos altamente impersonales, podemos estar poniendo mucha fe en la personalización para decirnos cómo debemos comportarnos, y quiénes deberíamos ser, en lugar de viceversa.

Sobre el Autor

Tanya Kant, profesora de medios y estudios culturales, Universidad de Sussex

Este artículo se publicó originalmente el La conversación. Leer el articulo original.

Libros relacionados

{amazonWS:searchindex=Books;keywords=online personalization;maxresults=3}