Cómo los sistemas de inteligencia artificial podrían amenazar a la democracia

privacidad

Gigante de la tecnología de Estados Unidos Microsoft se ha asociado con una universidad militar china desarrollar sistemas de inteligencia artificial eso podría potencialmente mejorar las capacidades de vigilancia y censura del gobierno. Dos Senadores estadounidenses condenados públicamente la asociación, pero lo que el Universidad de Tecnología de Defensa Nacional de China Los deseos de Microsoft no son la única preocupación.

As mi investigación muestra, el advenimiento de la represión digital está afectando profundamente La relación entre ciudadano y estado.. Las nuevas tecnologías están armando a los gobiernos con capacidades sin precedentes para monitorear, rastrear y vigilar a personas individuales. Incluso gobiernos en democracias con fuertes tradiciones de imperio de la ley se encuentran tentados al abuso estas nuevas habilidades.

En estados con Instituciones irresponsables y frecuentes abusos a los derechos humanos.Los sistemas de inteligencia artificial probablemente causarán un daño mayor. China es un ejemplo prominente. Su liderazgo ha abrazado con entusiasmo las tecnologías de inteligencia artificial, y ha establecido el mundo mas sofisticado estado de vigilancia in Provincia de XinjiangSeguimiento de movimientos diarios de ciudadanos y uso de teléfonos inteligentes.

Su aprovechamiento de estas tecnologías. presenta un modelo escalofriante para los compañeros autócratas y representa una amenaza directa para abrir sociedades democráticas. Aunque no hay evidencia de que otros gobiernos hayan replicado este nivel de vigilancia de la IA, las compañías chinas están exportando activamente las mismas tecnologías subyacentes en todo el mundo.

Mayor confianza en las herramientas de inteligencia artificial en los Estados Unidos.

Sistemas de inteligencia artificial. están en todas partes en el mundo moderno, ayudando a ejecutar teléfonos inteligentes, motores de búsqueda en Internet, asistentes de voz digitales y colas de películas de Netflix. Muchas personas no se dan cuenta qué tan rápido se está expandiendo la IA, gracias a la cantidad cada vez mayor de datos que se analizarán, mejorando algoritmos y chips de computadora avanzados.

Cada vez que se dispone de más información y el análisis se hace más fácil, los gobiernos están interesados ​​y no solo los autoritarios. En los Estados Unidos, por ejemplo, los 1970 vieron revelaciones que las agencias gubernamentales, como el FBI, la CIA y la NSA, habían establecido redes expansivas de vigilancia doméstica para vigilar y hostigar a los manifestantes de derechos civiles, activistas políticos y grupos de nativos americanos. Estos problemas no han desaparecido: la tecnología digital actual ha profundizado la capacidad de aún más agencias para llevar a cabo una vigilancia aún más intrusiva.

privacidad ¿Qué tan justamente los algoritmos predicen dónde debería estar más enfocada la policía? Arnout de Vries

Por ejemplo, la policía de EE. UU. Ha adoptado con entusiasmo las tecnologías de inteligencia artificial. Han comenzado a utilizar software que es destinado a predecir dónde ocurrirán los crímenes Para decidir dónde enviar a los oficiales de patrulla. Ellos tambien estan usando reconocimiento facial y Análisis de ADN en investigaciones criminales. Pero los análisis de estos sistemas muestran la Datos sobre los que están entrenados esos sistemas. a menudo son sesgados, lo que lleva a resultados injustos, Tales como Determinar falsamente que los afroamericanos son más propensos a cometer delitos que otros grupos.

Vigilancia AI en todo el mundo.

En los países autoritarios, los sistemas de inteligencia artificial pueden favorecer directamente el control y la vigilancia nacionales, ayudando a Las fuerzas de seguridad interna procesan enormes cantidades de información. - Incluyendo publicaciones en redes sociales, mensajes de texto, correos electrónicos y llamadas telefónicas - de manera más rápida y eficiente. La policía puede identificar tendencias sociales y Gente especifica Quién podría amenazar al régimen basándose en la información descubierta por estos sistemas.

Por ejemplo, el gobierno chino ha utilizado la inteligencia artificial en operaciones de represión a gran escala en regiones que albergan minorías étnicas dentro de China. Los sistemas de vigilancia en Xinjiang y el Tíbet han sido descritos como “Orwelliano. ”Estos esfuerzos han incluido muestras de ADN obligatorias, Monitoreo de redes Wi-Fi y cámaras de reconocimiento facial generalizadas, todas conectadas a plataformas integradas de análisis de datos. Con la ayuda de estos sistemas, las autoridades chinas tienen, según el Departamento de Estado de Estados Unidos, "detenidos arbitrariamente" entre 1 y 2 millones de personas.

My La investigación analiza los países 90 de todo el mundo. con tipos de gobierno que van desde democracias cerradas autoritarias a imperfectas, como Tailandia, Turquía, Bangladesh y Kenia. He encontrado que las empresas chinas son exportando tecnología de vigilancia de inteligencia artificial Al menos 54 de estos países. Con frecuencia, esta tecnología se empaqueta como parte del buque insignia de China. Cinturón y Iniciativa de la Ruta, que está financiando una extensa red de carreteras, ferrocarriles, tuberías de energía y redes de telecomunicaciones Al servicio de 60% de la población mundial. y economías que generan 40% del PIB global.

Por ejemplo, las empresas chinas como Huawei y ZTE están construyendo “ciudades inteligentes” en Pakistán, Filipinas y Kenia, con amplia tecnología de vigilancia incorporada. Por ejemplo, Huawei ha equipado Bonifacio Global City en Filipinas con cámaras de alta definición conectadas a Internet que proporcionan "24 / 7 vigilancia de seguridad inteligente con análisis de datos para detectar delitos y ayudar a gestionar el tráfico ".

privacidad Bonifacio Global City en Filipinas tiene muchos equipos de vigilancia integrados. Alveo Land / Wikimedia Commons

Hikvision, Yitu y SenseTime están suministrando cámaras de reconocimiento facial de vanguardia para usar en lugares como Singapore - que anunció el establecimiento de un programa de vigilancia con Cámaras 110,000 montadas en postes de luz. Alrededor de la ciudad-estado. Zimbabwe está creando una base de datos nacional de imágenes que puede ser utilizado para el reconocimiento facial.

Sin embargo, vender equipos avanzados con fines de lucro es diferente a compartir tecnología con un propósito geopolítico expreso. Estas nuevas capacidades pueden plantar las semillas para la vigilancia global: a medida que los gobiernos dependen cada vez más de la tecnología china para administrar a sus poblaciones y mantener el poder, enfrentarán una mayor presión para alinearse con la agenda de China. Pero por ahora parece que el principal motivo de China es dominar el mercado de las nuevas tecnologías y ganar mucho dinero en el proceso.

IA y desinformación

Además de proporcionar capacidades de vigilancia que son amplias y detalladas, la IA puede ayudar a los gobiernos represivos a manipular la información disponible y difundir la desinformación. Estas campañas pueden ser automatizadas o asistidas por automatización, y desplegarlas. mensajes hiper-personalizados dirigido a - o en contra - Gente especifica o grupos.

AI también apuntala la tecnología comúnmente llamada "deepfake", En la que crean los algoritmos Falsas de audio y video realistas.. Muddying las aguas entre la verdad y la ficción puede ser útil en una elección apretada, cuando un candidato podría crear videos falsos que muestren a un oponente haciendo y diciendo cosas que nunca realmente sucedieron.

Un video de DeepFake muestra algunos de los peligros de la tecnología avanzada.

Desde mi punto de vista, los formuladores de políticas en las democracias deberían pensar cuidadosamente sobre los riesgos de los sistemas de inteligencia artificial para sus propias sociedades y para las personas que viven bajo regímenes autoritarios en todo el mundo. Una pregunta crítica es cuántos países adoptarán el modelo de vigilancia digital de China. Pero no se trata solo de países autoritarios que sienten la fuerza. Y tampoco son solo las empresas chinas que difunden la tecnología: muchas empresas estadounidenses, incluida Microsoft, pero IBM, Cisco y Thermo Fisher También, han proporcionado capacidades sofisticadas a los gobiernos desagradables. El mal uso de la IA no se limita a los estados autocráticos.La conversación

Sobre el Autor

Steven Feldstein, Frank y Bethine Church Presidente de Asuntos Públicos y Profesor Asociado, Escuela de Servicio Público, La Universidad Estatal de Boise

Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.

Libros relacionados

{amazonWS: searchindex = Libros; palabras clave = vigilancia de AI; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

seguir a InnerSelf en

facebook-icontwitter-iconrss-icon

Obtenga lo último por correo electrónico

{Off} = emailcloak