Una cuenta típica de bot social. CCB
Las plataformas de redes sociales se han convertido en más que meras herramientas de comunicación. Han evolucionado hasta convertirse en escenarios bulliciosos donde la verdad y la falsedad chocan. Entre estas plataformas, X destaca como una campo de batalla prominente. Es un lugar donde prosperan las campañas de desinformación, perpetuadas por ejércitos de robots impulsados por inteligencia artificial programados para influir en la opinión pública y manipular narrativas.
Los bots impulsados por IA son cuentas automatizadas diseñadas para imitar el comportamiento humano. Los bots en las redes sociales, las plataformas de chat y la IA conversacional son parte integral de la vida moderna. Son necesarios, por ejemplo, para que las aplicaciones de IA se ejecuten de forma eficaz.
Pero algunos bots están diseñados con intenciones maliciosas. Sorprendentemente, los bots constituyen una parte importante de la base de usuarios de X. En 2017 fue estimado que había aproximadamente 23 millones de bots sociales que representaban el 8.5% del total de usuarios. Más de dos tercios de los tweets originado a partir de estas cuentas automatizadas, amplificando el alcance de la desinformación y enturbiando las aguas del discurso público.
Cómo funcionan los robots
La influencia social es ahora un bien que se puede adquirir comprando bots. Las empresas venden seguidores falsos para aumentar artificialmente la popularidad de las cuentas. Estos seguidores están disponibles a precios notablemente bajos, y hay muchas celebridades entre los compradores.
Durante nuestra investigación, por ejemplo, mis colegas y yo detectamos un robot que había publicado 100 tweets ofreciendo seguidores en venta.
Utilizando metodologías de IA y un enfoque teórico llamado teoría actor-red, mis colegas y yo analizamos cómo los robots sociales maliciosos manipulan las redes sociales, influyendo en lo que la gente piensa y cómo actúa con una eficacia alarmante. Podemos saber si las noticias falsas fueron generadas por un humano o un robot con una tasa de precisión del 79.7%. Es crucial comprender cómo tanto los humanos como la IA difunden desinformación para comprender las formas en que los humanos aprovechan la IA para difundir información errónea.
Por poner un ejemplo, examinamos la actividad de una cuenta llamada “True Trumpers” en Twitter.
La cuenta se creó en agosto de 2017, no tiene seguidores ni foto de perfil, pero, en el momento de la investigación, había publicado 4,423 tweets. Estos incluían una serie de historias totalmente inventadas. Vale la pena señalar que este robot se originó en un país de Europa del este.
Un flujo de noticias falsas de una cuenta de bot. Buzzfeed, CC BY
Investigaciones como esta influyeron en X para restringir las actividades de los robots sociales. En respuesta a la amenaza de manipulación de las redes sociales, X ha implementado límites de lectura temporales para frenar la extracción y manipulación de datos. Las cuentas verificadas se han limitado a leer 6,000 publicaciones por día, mientras que las cuentas no verificadas pueden leer 600 por día. Esta es una nueva actualización, por lo que aún no sabemos si ha sido efectiva.
¿Podemos protegernos?
Sin embargo, en última instancia, recae en los usuarios la responsabilidad de actuar con cautela y discernir la verdad de la falsedad, especialmente durante los períodos electorales. Al evaluar críticamente la información y verificar las fuentes, los usuarios pueden desempeñar un papel en la protección de la integridad de los procesos democráticos del ataque de los robots y las campañas de desinformación en X. Cada usuario es, de hecho, un defensor de primera línea de la verdad y la democracia. La vigilancia, el pensamiento crítico y una buena dosis de escepticismo son una armadura esencial.
En el caso de las redes sociales, es importante que los usuarios comprendan las estrategias empleadas por las cuentas maliciosas.
Los actores malintencionados suelen utilizar redes de robots para amplificar narrativas falsas, manipular tendencias y difundir rápidamente información errónea. Los usuarios deben tener cuidado al encontrar cuentas que muestren comportamientos sospechosos, como publicaciones excesivas o mensajes repetitivos.
La desinformación también se propaga con frecuencia a través de sitios web dedicados a noticias falsas. Están diseñados para imitar fuentes de noticias creíbles. Se recomienda a los usuarios que verifiquen la autenticidad de las fuentes de noticias cruzando la información con fuentes confiables y consultando a organizaciones de verificación de datos.
La autoconciencia es otra forma de protección, especialmente frente a las tácticas de ingeniería social. La manipulación psicológica a menudo se utiliza para engañar a los usuarios haciéndoles creer falsedades o realizar determinadas acciones. Los usuarios deben mantenerse alerta y evaluar críticamente el contenido que encuentran, particularmente durante períodos de mayor sensibilidad, como las elecciones.
Manteniéndonos informados, participando en el discurso civil y abogando por la transparencia y la rendición de cuentas, podemos configurar colectivamente un ecosistema digital que fomente la confianza, la transparencia y la toma de decisiones informadas.
Nick Hajli, estratega de IA y profesor de estrategia digital, Universidad de Loughborough
Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.
Libros relacionados:
Sobre la tiranía: veinte lecciones del siglo XX
por Timothy Snyder
Este libro ofrece lecciones de la historia para preservar y defender la democracia, incluida la importancia de las instituciones, el papel de los ciudadanos individuales y los peligros del autoritarismo.
Haga clic para obtener más información o para ordenar
Nuestro momento es ahora: poder, propósito y la lucha por una América justa
por Stacey Abrams
La autora, política y activista, comparte su visión de una democracia más inclusiva y justa y ofrece estrategias prácticas para la participación política y la movilización de votantes.
Haga clic para obtener más información o para ordenar
Cómo mueren las democracias
por Steven Levitsky y Daniel Ziblatt
Este libro examina las señales de advertencia y las causas del colapso democrático, basándose en estudios de casos de todo el mundo para ofrecer información sobre cómo salvaguardar la democracia.
Haga clic para obtener más información o para ordenar
El pueblo, no: una breve historia del antipopulismo
por Tomás Frank
El autor ofrece una historia de los movimientos populistas en los Estados Unidos y critica la ideología "antipopulista" que, según él, ha sofocado la reforma y el progreso democráticos.
Haga clic para obtener más información o para ordenar
La democracia en un libro o menos: cómo funciona, por qué no funciona y por qué solucionarlo es más fácil de lo que cree
por David Litt
Este libro ofrece una descripción general de la democracia, incluidas sus fortalezas y debilidades, y propone reformas para que el sistema sea más receptivo y responsable.
Haga clic para obtener más información o para ordenar
