William Perugini/Shutterstock

De los muchos "riesgos profundos para la sociedad y la humanidad” que tienen a los expertos en tecnología preocupados por la inteligencia artificial (IA), la difusión de imágenes falsas es algo con lo que los usuarios cotidianos de Internet estarán familiarizados.

Los deepfakes (vídeos o fotografías en las que la cara o el cuerpo de una persona han sido alterados digitalmente para que parezca que está haciendo algo que no es) ya se han utilizado para difundir desinformación política y pornografía falsa.

Estas imágenes suelen ser maliciosas y se utilizan para desacreditar al sujeto. Cuando se trata de pornografía deepfake, el La gran mayoría de las víctimas son mujeres.. La IA generativa (tecnología utilizada para crear texto, imágenes y vídeos) es ya haciendo El abuso sexual basado en imágenes es más fácil de perpetrar.

Una nueva encuesta conjunto de leyes en el Reino Unido, criminalizará el intercambio de pornografía deepfake. Pero con la atención puesta en la IA y los deepfakes, no podemos olvidar cómo una tecnología menos sofisticada puede usarse como herramienta de abuso, con consecuencias devastadoras para las víctimas.

Tecnología y control

Cuando comencé mi investigación sobre la tecnología en las relaciones abusivas, los deepfakes eran solo un punto fugaz en el horizonte. Mi trabajo se centró en la papel de los teléfonos inteligentes en el abuso de mujeres que habían huido de relaciones controladoras. Descubrí que los perpetradores de abuso doméstico estaban usando la tecnología para extender el alcance de su poder y control sobre sus parejas, una versión moderna de las tácticas de abuso que se usaban. mucho antes Los teléfonos inteligentes estaban en todos los bolsillos.

Los teléfonos móviles se pueden utilizar directamente para monitorear y controlar, mediante rastreo por GPS o bombardeando a la víctima con mensajes de texto, videos y llamadas de voz. Un participante en mi investigación en 2019 Explicó cómo su pareja abusiva usó su teléfono para acceder a las redes sociales, enviándole fotografías ofensivas a través de Instagram y mensajes persistentes y ofensivos de WhatsApp.

Cuando ella salía con sus amigos, él primero le enviaba mensajes de texto, la llamaba y luego la llamaba por video constantemente para comprobar dónde estaba y ver con quién estaba. Cuando la participante apagó su teléfono, su entonces pareja se puso en contacto con sus amigos y los bombardeó con mensajes de texto y llamadas.

Esta participante se sintió demasiado avergonzada para hacer arreglos para reunirse con su grupo de pares y por eso dejó de salir. Otras personas en situaciones similares podrían ser excluidas de los planes sociales, si sus amigos quieren evitar ser contactados por el agresor de su amigo. Este aislamiento social es una parte frecuente del abuso doméstico y un indicador importante de relaciones controladoras.

Según la organización benéfica contra la violencia doméstica Refugio, más de 72% de las personas que utilizan sus servicios reportan abusos relacionados con la tecnología.

Los teléfonos móviles son una puerta de entrada a otros dispositivos, a través del “Internet de las cosas”, dispositivos que están conectados a la web y pueden intercambiar datos. Estas herramientas también pueden ser utilizadas como armas por los abusadores. Por ejemplo, usar teléfonos móviles para cambiar la configuración de temperatura en un termostato doméstico, creando extremos de una hora a otra.

Confundidas por esto, las personas buscan explicaciones de su pareja sólo para que les digan que esto debe ser producto de su imaginación. Técnicas de iluminación con gas Como este hace que las víctimas cuestionen su propia cordura, lo que socava su confianza en su propio juicio.

Un panóptico moderno

Con solo hacer clic en un botón, los teléfonos móviles permiten una vigilancia sin precedentes de los demás. En el bolsillo de un perpetrador, pueden usarse para vigilar a sus parejas actuales y anteriores en cualquier momento, en cualquier lugar y, si la señal lo permite, en cualquier lugar. Esto les da a los perpetradores una poder de omnipotencia, haciendo que las víctimas crean que están siendo vigiladas incluso cuando no es así.

Esto nos recuerda el trabajo del filósofo del siglo XVIII Jeremy Bentham, quien introdujo el concepto de “panóptico”. Bentham propuso un sistema penitenciario “perfecto”, donde en el centro se ubica una torre de vigilancia, rodeada de celdas individuales.

Aislados unos de otros, los prisioneros sólo verían la torre, un recordatorio constante de que están permanentemente vigilados, aunque no puedan ver al guardia que hay dentro de ella. Bentham creía que tal estructura daría como resultado la autovigilancia de los prisioneros hasta que finalmente no se necesitaran cerraduras ni rejas.

Mi investigación más reciente muestra que los teléfonos móviles han creado dinámicas similares dentro de las relaciones abusivas. Los teléfonos asumen el papel de torre y los perpetradores, los guardias que se encuentran dentro de ella.

En este panóptico moderno, las víctimas pueden estar fuera de casa, visibles para extraños, amigos y familiares. Sin embargo, debido a la presencia del teléfono, sienten que sus parejas abusivas todavía las vigilan y controlan.

Como lo expresó un participante: “Sientes que no hay libertad incluso cuando estás fuera. Te sientes como si estuvieras encerrado en algún lugar, no tienes libertad, alguien te está controlando”.

Los supervivientes de abusos siguen vigilándose a sí mismos incluso cuando los perpetradores no están allí. Actúan de maneras que creen que complacerán (o al menos no enojarán) a sus abusadores.

Los demás a menudo consideran que este comportamiento es extraño y lo descartan con demasiada facilidad como paranoia, ansiedad o problemas de salud mental más graves. La atención se centra en el comportamiento de la víctima e ignora la causa: comportamiento abusivo o criminal por parte de su pareja.

A medida que la tecnología se vuelve más sofisticada, las herramientas y estrategias disponibles para los abusadores seguirán evolucionando. Esto ampliará el alcance de los perpetradores y presentará nuevas oportunidades para la vigilancia, el engaño y el abuso.

Hasta que las empresas de tecnología consideren las experiencias de los sobrevivientes de abuso doméstico e incorporen mecanismos de seguridad en el diseño de sus productos, el abuso seguirá existiendo. oculto a la vista.

Tirion Havard, Profesor Asociado de Trabajo Social, London South Bank University

Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.