La mezcla volátil de deepfakes y campañas políticas es una buena razón para estar en guardia. Sean Anthony Eddy Creativo/E+ vía Getty Images
Imagina un Sorpresa de octubre como ningún otro: solo una semana antes del 5 de noviembre de 2024, una grabación de video revela una reunión secreta entre Joe Biden y Volodymyr Zelenskyy. Los presidentes estadounidense y ucraniano acuerdan iniciar inmediatamente a Ucrania en la OTAN bajo el “protocolo especial de membresía de emergencia” y prepararse para un ataque con armas nucleares contra Rusia. De repente, el mundo está en la cúspide del Armagedón.
Si bien los periodistas podrían señalar que no existe tal protocolo y los usuarios de las redes sociales pueden notar extrañas cualidades de videojuegos en el video, otros pueden sentir que sus peores miedos han sido confirmados. Cuando llegue el día de las elecciones, estos ciudadanos preocupados pueden dejar que el video influya en sus votos, sin saber que acaban de ser manipulados por una situación falsa, un evento que en realidad nunca sucedió.
Los deepfakes de situación representan la siguiente etapa de las tecnologías que ya tienen sacudido las percepciones de la audiencia de la realidad. En nuestra investigación en el Proyecto DeFake, mis compañeros de la Rochester Institute of Technology, la Universidad de Mississippi, Michigan State University y yo estudiar cómo se hacen los deepfakes y qué medidas pueden tomar los votantes para defenderse de ellos.
Imaginar hechos que nunca sucedieron.
Se crea un deepfake cuando alguien usa una herramienta de inteligencia artificial, especialmente deep learning, para manipular o generar un hacer, voz o – con el surgimiento de grandes modelos de lenguaje como ChatGPT – Lenguaje conversacional. Estos se pueden combinar para formar "falsos profundos de situación".
La idea básica y la tecnología de un deepfake de situación son las mismas que las de cualquier otro deepfake, pero con una ambición más audaz: manipular un evento real o inventarlo de la nada. Los ejemplos incluyen representaciones de El paseo criminal de Donald Trump y Trump abrazando a Anthony Fauci, ninguno de los cuales sucedió. El tiro del abrazo fue promovido por un cuenta de Twitter asociado a la campaña presidencial del rival de Trump, Ron DeSantis. Un anuncio de ataque dirigida a la campaña 2024 de Joe Biden publicada por el Comité Nacional Republicano fue hecho completamente con IA.
En el Proyecto DeFake, nuestra la investigación ha encontrado que las falsificaciones profundas, incluidas las situaciones, suelen crearse mediante una combinación de agregar una pieza de medios con otra; usando un video para animar una imagen o alterar otro video, apodado titiritero; conjurar una pieza de medios a la existencia, típicamente usando IA generativa; o alguna combinación de estas técnicas.
Para ser claros, muchas situaciones falsas profundas se realizan con fines inocentes. Por ejemplo, Revista Odisea Infinita produce fotogramas falsos de películas que nunca fueron producidos or nunca podría haber existido. Pero incluso los deepfakes inocentes dan motivos para hacer una pausa, como en el caso de las fotografías falsas casi creíbles que muestran el El alunizaje de Apolo como producción cinematográfica.
Falsificar una elección
Ahora póngase en la posición de alguien que intenta influir en las próximas elecciones. ¿Cuáles son las posibles situaciones que podrías querer crear?
Para empezar, importaría si desea inclinar la votación hacia un resultado específico o en contra. Tal vez retrataría a un candidato actuando heroicamente apartando a un peatón del camino de un automóvil que circula a alta velocidad o, por el contrario, haciendo algo ofensivo o criminal. El formato de la situación deepfake también importaría. En lugar de un video, podría ser una fotografía, tal vez con el desenfoque y los ángulos que simulan la cámara de un teléfono inteligente o el logotipo falsificado de una agencia de noticias.
Su público objetivo sería clave. En lugar de apuntar al electorado general o a la base de un partido, podría apuntar a teóricos de la conspiración en distritos electorales clave. Puede retratar al candidato o a los miembros de su familia participando en una ritual satánico, participando en un festival en el exclusivo y controvertido Arboleda Bohemiao tener un reunión secreta con un extraterrestre.
Si tiene la ambición y las capacidades para ello, podría incluso intentar falsificar las elecciones en sí. En junio de 2023, las estaciones de radio y televisión de Rusia fueron pirateadas y transmitir una orden de movilización completa por una Deepfake del presidente ruso Vladimir Putin. Si bien esto sería más difícil de hacer en una elección de EE. UU., en principio, cualquier medio de comunicación podría ser pirateado para transmitir falsificaciones profundas de sus presentadores que anuncian resultados incorrectos o un candidato que concede.
Defendiendo la realidad
Hay una variedad de formas tecnológicas y psicológicas para detectar y defenderse de las falsificaciones profundas de situaciones.
En el frente tecnológico, todos los deepfakes contienen alguna evidencia de su verdadera naturaleza. Algunas de estas señales pueden ser vistas por el ojo humano, como una piel demasiado suave o una iluminación o arquitectura extraña, mientras que otras pueden ser detectable solo por una IA de caza de falsificaciones profundas.
Estamos construyendo falsoEl detector de usar IA para detectar los signos reveladores de deepfakes, y estamos trabajando para tratar de tenerlo listo a tiempo para las elecciones de 2024. Pero incluso si un detector de falsificaciones profundas lo suficientemente poderoso como el nuestro no puede implementarse el día de las elecciones, existen herramientas psicológicas que usted, el votante, puede usar para identificar falsificaciones profundas: conocimiento previo, curiosidad y escepticismo saludable.
Si encuentra contenido multimedia sobre una persona, un lugar o un evento que parece poco característico, confíe en su conocimiento previo. Por ejemplo, en un engaño reciente de un incendio en el Pentágono, el edificio que se muestra parece más cuadrado que pentagonal, lo que podría ser un indicio.
Sin embargo, trate de no confiar completamente en sus conocimientos previos, que podrían ser erróneos o irregulares. Nunca tenga miedo de obtener más información de fuentes confiables, como informes de noticias verificados, artículos académicos revisados por pares o entrevistas con expertos acreditados.
Además, tenga en cuenta que las falsificaciones profundas se pueden usar para aprovechar lo que está inclinado a creer sobre una persona, lugar o evento. Una de las mejores maneras de lidiar con esto es simplemente ser consciente de sus prejuicios y tenga un poco de cuidado con cualquier contenido de los medios que parezca confirmarlos.
Incluso si es posible crear deepfakes de situaciones perfectas, es probable que la credibilidad de su tema siga siendo su talón de Aquiles. Entonces, con o sin una solución tecnológica, aún tiene el poder de defender las elecciones de la influencia de eventos falsos.
Sobre el Autor
cristobal schwartz, Investigador Postdoctoral Asociado de Seguridad Informática, Rochester Institute of Technology
Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.
Libros relacionados:
Sobre la tiranía: veinte lecciones del siglo XX
por Timothy Snyder
Este libro ofrece lecciones de la historia para preservar y defender la democracia, incluida la importancia de las instituciones, el papel de los ciudadanos individuales y los peligros del autoritarismo.
Haga clic para obtener más información o para ordenar
Nuestro momento es ahora: poder, propósito y la lucha por una América justa
por Stacey Abrams
La autora, política y activista, comparte su visión de una democracia más inclusiva y justa y ofrece estrategias prácticas para la participación política y la movilización de votantes.
Haga clic para obtener más información o para ordenar
Cómo mueren las democracias
por Steven Levitsky y Daniel Ziblatt
Este libro examina las señales de advertencia y las causas del colapso democrático, basándose en estudios de casos de todo el mundo para ofrecer información sobre cómo salvaguardar la democracia.
Haga clic para obtener más información o para ordenar
El pueblo, no: una breve historia del antipopulismo
por Tomás Frank
El autor ofrece una historia de los movimientos populistas en los Estados Unidos y critica la ideología "antipopulista" que, según él, ha sofocado la reforma y el progreso democráticos.
Haga clic para obtener más información o para ordenar
La democracia en un libro o menos: cómo funciona, por qué no funciona y por qué solucionarlo es más fácil de lo que cree
por David Litt
Este libro ofrece una descripción general de la democracia, incluidas sus fortalezas y debilidades, y propone reformas para que el sistema sea más receptivo y responsable.
