Un ejemplo de Jesús camaronero. Generador de IA de Shutterstock

Si busca “Jesús camarón” en Facebook, puede encontrar docenas de imágenes de crustáceos generados por inteligencia artificial (IA) entrelazados en diversas formas con una imagen estereotipada de Jesucristo.

Algunas de estas imágenes hiperrealistas han obtenido más de 20,000 me gusta y comentarios. Entonces, ¿qué está pasando aquí exactamente?

La “teoría de la Internet muerta” tiene una explicación: la IA y el contenido generado por bots han superado a la Internet generada por humanos. Pero, ¿de dónde surgió esta idea? ¿Tiene alguna base en la realidad?

¿Qué es la teoría de la Internet muerta?

La teoría de la Internet muerta esencialmente afirma que la actividad y el contenido en Internet, incluidas las cuentas de redes sociales, son creados y automatizados predominantemente por agentes de inteligencia artificial.

Estos agentes pueden crear rápidamente publicaciones junto con imágenes generadas por IA diseñadas para generar participación (clics, me gusta, comentarios) en plataformas como Facebook, Instagram y TikTok. En cuanto al Jesús del camarón, parece que AI ha descubierto que es la última combinación actual de absurdo e iconografía religiosa que se ha vuelto viral.

Pero la teoría de la Internet muerta va aún más lejos. Muchas de las cuentas que interactúan con dicho contenido también parecen estar gestionados por agentes de inteligencia artificial. Esto crea un círculo vicioso de compromiso artificial, que no tiene una agenda clara y que ya no involucra a los humanos en absoluto.

¿Inofensivo cultivo de compromiso o propaganda sofisticada?

A primera vista, la motivación de estas cuentas para generar interés puede parecer obvia: la participación en las redes sociales genera ingresos publicitarios. Si una persona configura una cuenta que recibe una participación inflada, puede obtener una parte de los ingresos publicitarios de organizaciones de redes sociales como Meta.

Entonces, ¿la teoría muerta de Internet se limita a una agricultura de compromiso inofensiva? ¿O tal vez debajo de la superficie se esconde un intento sofisticado y bien financiado de apoyar regímenes autocráticos, atacar a sus oponentes y difundir propaganda?

Si bien el fenómeno Jesús del camarón puede parecer inofensivo (aunque extraño), existe potencialmente una estratagema a largo plazo entre manos.

A medida que estas cuentas impulsadas por IA aumentan en número de seguidores (muchos falsos, algunos reales), el alto número de seguidores legitima la cuenta ante usuarios reales. Esto significa que ahí fuera se está creando un ejército de cuentas. Cuentas con un alto número de seguidores que podrían ser implementadas por aquellos con la oferta más alta.

Esto es de vital importancia, ya que las redes sociales son ahora la principal fuente de noticias para muchos usuarios en todo el mundo. En Australia, 46% de 18 a 24 años de edad nominó a las redes sociales como su principal fuente de noticias el año pasado. Esto representa un aumento del 28% en 2022, reemplazando a los medios tradicionales como la radio y la televisión.

Desinformación alimentada por bots

Ya hay pruebas contundentes de que estos robots inflados están manipulando las redes sociales para influir en la opinión pública con desinformación, y esto ha estado sucediendo durante años.

En 2018, un estudio analizó 14 millones de tweets durante un período de diez meses en 2016 y 2017. Descubrió que los bots en las redes sociales eran significativamente involucrado en la difusión de artículos de fuentes poco fiables. Las cuentas con un gran número de seguidores legitimaban la desinformación y la desinformación, lo que llevaba a los usuarios reales a creer, interactuar y compartir el contenido publicado por bots.

Se ha descubierto que este enfoque de manipulación de las redes sociales ocurre después de tiroteos masivos en los Estados Unidos. En 2019, un estudio encontró publicaciones generadas por bots en X (anteriormente Twitter) contribuir en gran medida a la discusión pública, sirviendo para amplificar o distorsionar narrativas potenciales asociadas con eventos extremos.

Más recientemente, varias campañas de desinformación prorrusas a gran escala han tenido como objetivo socavar el apoyo a Ucrania y promover el sentimiento prorruso.

Los esfuerzos coordinados, descubiertos por activistas y periodistas, utilizaron robots e inteligencia artificial para crear y difundir información falsa, llegando a millones de usuarios de redes sociales.

Sólo en X, la campaña utilizó más de 10,000 cuentas de bots para publicar rápidamente decenas de miles de mensajes de contenido pro-Kremlin atribuidos aparentemente a celebridades estadounidenses y europeas. secundario la guerra en curso contra Ucrania.

Esta escala de influencia es significativa. Algunos informes incluso han encontrado que casi la mitad de todo el tráfico de Internet en 2022 fue hecho por robots. Con los recientes avances en IA generativa –como los modelos ChatGPT de OpenAI y Gemini de Google– la calidad del contenido falso no hará más que mejorar.

Las organizaciones de redes sociales buscan abordar el uso indebido de sus plataformas. En particular, Elon Musk ha explorado exigir a los usuarios de X que paguen una membresía para detener las granjas de bots.

 

Los gigantes de las redes sociales son capaces de eliminar grandes cantidades de actividad de bot detectada, si así lo desean. (Malas noticias para nuestro amigable Jesús camaronero).

Tenga en cuenta la Internet muerta

La teoría muerta de Internet no es realmente afirmando que la mayoría de sus interacciones personales en Internet son falsas.

Sin embargo, es una lente interesante a través de la cual ver Internet. Que ya no es para humanos, para humanos: este es el sentido en el que Internet que conocimos y amamos está “muerto”.

La libertad de crear y compartir nuestros pensamientos en Internet y las redes sociales es lo que lo hizo tan poderoso. Naturalmente, es este poder el que los malos actores buscan controlar.

La teoría de la Internet muerta es un recordatorio de que debemos ser escépticos y navegar en las redes sociales y otros sitios web con una mente crítica.

Cualquier interacción, tendencia y especialmente “sentimiento general” bien podría ser sintético. Diseñado para cambiar ligeramente la forma en que percibes el mundo.

Jake Renzella, Profesor, Director de Estudios (Informática), UNSW Sydney y Vlada Rozova, Investigador en Aprendizaje Automático Aplicado, La Universidad de Melbourne

Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.