Cómo la inteligencia artificial es el sueño de un totalitario shutterstock.

Las sociedades occidentales individualistas se basan en la idea de que nadie conoce nuestros pensamientos, deseos o alegrías mejor que nosotros. Y entonces nos ponemos a nosotros mismos, en lugar del gobierno, a cargo de nuestras vidas. Solemos estar de acuerdo con el filósofo La afirmación de Immanuel Kant que nadie tiene derecho a imponernos su idea de la buena vida.

La inteligencia artificial (IA) cambiará esto. Nos conocerá mejor de lo que nos conocemos a nosotros mismos. Un gobierno armado con inteligencia artificial podría afirmar que sabe lo que realmente quiere su gente y lo que realmente los hará felices. En el mejor de los casos, utilizará esto para justificar el paternalismo, en el peor, el totalitarismo.

Todo infierno comienza con una promesa del cielo. El totalitarismo liderado por IA no será diferente. La libertad se convertirá en obediencia al estado. Solo los irracionales, rencorosos o subversivos podrían desear elegir su propio camino.

Para prevenir tal distopía, no debemos permitir que otros sepan más de nosotros que nosotros. No podemos permitir una brecha de autoconocimiento.

La IA que todo lo ve

En 2019, el inversor multimillonario Peter Thiel afirmó que AI era "literalmente comunista”. Señaló que la IA permite un poder centralizador para monitorear a los ciudadanos y saber más sobre ellos de lo que saben sobre sí mismos. China, señaló Thiel, ha adoptado con entusiasmo la IA.


gráfico de suscripción interior


Ya conocemos el potencial de la IA para apoyar el totalitarismo proporcionando un sistema orwelliano de vigilancia y control. Pero la IA también les da a los totalitarios un arma filosófica. Mientras nos conozcamos mejor que el gobierno, el liberalismo podría mantener a raya a los aspirantes a totalitarios.

Pero la IA ha cambiado el juego. Las grandes empresas tecnológicas recopilan una gran cantidad de datos sobre nuestro comportamiento. Los algoritmos de aprendizaje automático utilizan estos datos para calcular no solo lo que haremos, sino quiénes somos.

Hoy, La IA puede predecir qué películas nos gustarán, qué noticias querremos leer y a quién querremos hacer amigos en Facebook. Puede predecir si las parejas permanecerán juntas y si lo haremos intento de suicidio. De nuestros me gusta de Facebook, La IA puede predecir nuestras opiniones religiosas y políticas, personalidad, inteligencia, consumo de drogas y felicidad.

La precisión de las predicciones de la IA solo mejorará. En un futuro no muy lejano, como el escritor Yuval Noah Harari ha sugerido, la IA puede decirnos quiénes somos antes de que nos demos cuenta.

Estos desarrollos tienen implicaciones políticas sísmicas. Si los gobiernos pueden conocernos mejor que nosotros, se abre una nueva justificación para intervenir en nuestras vidas. Nos tiranizarán en nombre de nuestro propio bien.

Libertad a través de la tiranía

El filósofo Isaiah Berlin previó esto en 1958. Él identificó dos tipos de libertad. Un tipo, advirtió, conduciría a la tiranía.

La libertad negativa es "libertad de". Es estar libre de la interferencia de otras personas o del gobierno en sus asuntos. La libertad negativa es que nadie más pueda restringirte, siempre y cuando no estés violando los derechos de nadie más.

En contraste, la libertad positiva es "libertad para". Es la libertad de ser dueño de sí mismo, la libertad de satisfacer sus verdaderos deseos, la libertad de vivir una vida racional. ¿Quién no querría esto?

Pero, ¿qué pasa si alguien más dice que no está actuando en su "verdadero interés", aunque saben cómo podría hacerlo? Si no escuchas, pueden obligarte a ser libre - coaccionarte por tu "propio bien". Esta es una de las ideas más peligrosas jamás concebidas. Mató a decenas de millones de personas en Unión Soviética de Stalin y China de Mao.

Se dice que el líder comunista ruso, Lenin, dijo que los capitalistas le venderían la cuerda con la que los colgaría. Peter Thiel ha argumentado que, en IA, las empresas tecnológicas capitalistas de Silicon Valley han vendido al comunismo una herramienta que amenaza con socavar la sociedad capitalista democrática. La IA es la cuerda de Lenin.

Luchando por nosotros mismos

Solo podemos prevenir tal distopía si a nadie se le permite conocernos mejor de lo que nos conocemos a nosotros mismos. Nunca debemos sentimentalizar a nadie que busque tal poder sobre nosotros como bien intencionado. Históricamente, esto solo ha terminado en una calamidad.

Una forma de evitar una brecha de autoconocimiento es elevar nuestros escudos de privacidad. Thiel, quien calificó a AI como comunista, ha argumentado que “cripto es libertario”. Las criptomonedas pueden ser "habilitación de la privacidad”. La privacidad reduce la capacidad de otros para conocernos y luego utilizar este conocimiento para manipularnos para su propio beneficio.

Sin embargo, conocernos mejor a nosotros mismos a través de la IA ofrece poderosos beneficios. Es posible que podamos usarlo para comprender mejor qué nos hará felices, saludables y ricos. Puede ayudar guiar nuestras elecciones profesionales. De manera más general, la IA promete crear el crecimiento económico esa nos mantiene alejados de la garganta del otro.

El problema no es que la IA mejore nuestro autoconocimiento. El problema es un disparidad de poder en lo que se sabe de nosotros. El conocimiento sobre nosotros exclusivamente en manos de otra persona es poder sobre nosotros. Pero el conocimiento sobre nosotros en nuestras propias manos es poder para nosotros.

Cualquiera que procesa nuestros datos para crear conocimiento sobre nosotros debería estar legalmente obligado a devolvernos ese conocimiento. Necesitamos actualizar la idea de "nada de nosotros sin nosotros”Para la era de la IA.

Lo que la IA nos dice sobre nosotros mismos es que consideremos el uso, no que otros se beneficien del abuso. Solo debería haber una mano en el timón de nuestra alma. Y debería ser nuestro.La conversación

Sobre el Autor

Simon McCarthy-Jones, Profesor Asociado en Psicología Clínica y Neuropsicología, Trinity College de Dublín

Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.

romper

Libros relacionados:

Sobre la tiranía: veinte lecciones del siglo XX

por Timothy Snyder

Este libro ofrece lecciones de la historia para preservar y defender la democracia, incluida la importancia de las instituciones, el papel de los ciudadanos individuales y los peligros del autoritarismo.

Haga clic para obtener más información o para ordenar

Nuestro momento es ahora: poder, propósito y la lucha por una América justa

por Stacey Abrams

La autora, política y activista, comparte su visión de una democracia más inclusiva y justa y ofrece estrategias prácticas para la participación política y la movilización de votantes.

Haga clic para obtener más información o para ordenar

Cómo mueren las democracias

por Steven Levitsky y Daniel Ziblatt

Este libro examina las señales de advertencia y las causas del colapso democrático, basándose en estudios de casos de todo el mundo para ofrecer información sobre cómo salvaguardar la democracia.

Haga clic para obtener más información o para ordenar

El pueblo, no: una breve historia del antipopulismo

por Tomás Frank

El autor ofrece una historia de los movimientos populistas en los Estados Unidos y critica la ideología "antipopulista" que, según él, ha sofocado la reforma y el progreso democráticos.

Haga clic para obtener más información o para ordenar

La democracia en un libro o menos: cómo funciona, por qué no funciona y por qué solucionarlo es más fácil de lo que cree

por David Litt

Este libro ofrece una descripción general de la democracia, incluidas sus fortalezas y debilidades, y propone reformas para que el sistema sea más receptivo y responsable.

Haga clic para obtener más información o para ordenar