Cómo la inteligencia artificial es el sueño de un totalitario

Cómo la inteligencia artificial es el sueño de un totalitario shutterstock.

Las sociedades occidentales individualistas se basan en la idea de que nadie conoce nuestros pensamientos, deseos o alegrías mejor que nosotros. Y entonces nos ponemos a nosotros mismos, en lugar del gobierno, a cargo de nuestras vidas. Solemos estar de acuerdo con el filósofo La afirmación de Immanuel Kant que nadie tiene derecho a imponernos su idea de la buena vida.

La inteligencia artificial (IA) cambiará esto. Nos conocerá mejor de lo que nos conocemos a nosotros mismos. Un gobierno armado con inteligencia artificial podría afirmar que sabe lo que realmente quiere su gente y lo que realmente los hará felices. En el mejor de los casos, utilizará esto para justificar el paternalismo, en el peor, el totalitarismo.

Todo infierno comienza con una promesa del cielo. El totalitarismo liderado por IA no será diferente. La libertad se convertirá en obediencia al estado. Solo los irracionales, rencorosos o subversivos podrían desear elegir su propio camino.

Para prevenir tal distopía, no debemos permitir que otros sepan más de nosotros que nosotros. No podemos permitir una brecha de autoconocimiento.

La IA que todo lo ve

En 2019, el inversor multimillonario Peter Thiel afirmó que AI era "literalmente comunista”. Señaló que la IA permite un poder centralizador para monitorear a los ciudadanos y saber más sobre ellos de lo que saben sobre sí mismos. China, señaló Thiel, ha adoptado con entusiasmo la IA.

Ya conocemos el potencial de la IA para apoyar el totalitarismo proporcionando un sistema orwelliano de vigilancia y control. Pero la IA también les da a los totalitarios un arma filosófica. Mientras nos conozcamos mejor que el gobierno, el liberalismo podría mantener a raya a los aspirantes a totalitarios.

Pero la IA ha cambiado el juego. Las grandes empresas tecnológicas recopilan una gran cantidad de datos sobre nuestro comportamiento. Los algoritmos de aprendizaje automático utilizan estos datos para calcular no solo lo que haremos, sino quiénes somos.


Obtenga lo último de InnerSelf


Hoy, La IA puede predecir qué películas nos gustarán, qué noticias querremos leer y a quién querremos hacer amigos en Facebook. Puede predecir si las parejas permanecerán juntas y si lo haremos intento de suicidio. De nuestros me gusta de Facebook, La IA puede predecir nuestras opiniones religiosas y políticas, personalidad, inteligencia, consumo de drogas y felicidad.

La precisión de las predicciones de la IA solo mejorará. En un futuro no muy lejano, como el escritor Yuval Noah Harari ha sugerido, la IA puede decirnos quiénes somos antes de que nos demos cuenta.

Estos desarrollos tienen implicaciones políticas sísmicas. Si los gobiernos pueden conocernos mejor que nosotros, se abre una nueva justificación para intervenir en nuestras vidas. Nos tiranizarán en nombre de nuestro propio bien.

Libertad a través de la tiranía

El filósofo Isaiah Berlin previó esto en 1958. Él identificó dos tipos de libertad. Un tipo, advirtió, conduciría a la tiranía.

La libertad negativa es "libertad de". Es estar libre de la interferencia de otras personas o del gobierno en sus asuntos. La libertad negativa es que nadie más pueda restringirte, siempre y cuando no estés violando los derechos de nadie más.

En contraste, la libertad positiva es "libertad para". Es la libertad de ser dueño de sí mismo, la libertad de satisfacer sus verdaderos deseos, la libertad de vivir una vida racional. ¿Quién no querría esto?

Pero, ¿qué pasa si alguien más dice que no está actuando en su "verdadero interés", aunque saben cómo podría hacerlo? Si no escuchas, pueden obligarte a ser libre - coaccionarte por tu "propio bien". Esta es una de las ideas más peligrosas jamás concebidas. Mató a decenas de millones de personas en Unión Soviética de Stalin y China de Mao.

Se dice que el líder comunista ruso, Lenin, dijo que los capitalistas le venderían la cuerda con la que los colgaría. Peter Thiel ha argumentado que, en IA, las empresas tecnológicas capitalistas de Silicon Valley han vendido al comunismo una herramienta que amenaza con socavar la sociedad capitalista democrática. La IA es la cuerda de Lenin.

Luchando por nosotros mismos

Solo podemos prevenir tal distopía si a nadie se le permite conocernos mejor de lo que nos conocemos a nosotros mismos. Nunca debemos sentimentalizar a nadie que busque tal poder sobre nosotros como bien intencionado. Históricamente, esto solo ha terminado en una calamidad.

Una forma de evitar una brecha de autoconocimiento es elevar nuestros escudos de privacidad. Thiel, quien calificó a AI como comunista, ha argumentado que “cripto es libertario”. Las criptomonedas pueden ser "habilitación de la privacidad”. La privacidad reduce la capacidad de otros para conocernos y luego utilizar este conocimiento para manipularnos para su propio beneficio.

Sin embargo, conocernos mejor a nosotros mismos a través de la IA ofrece poderosos beneficios. Es posible que podamos usarlo para comprender mejor qué nos hará felices, saludables y ricos. Puede ayudar guiar nuestras elecciones profesionales. De manera más general, la IA promete crear el crecimiento económico ese nos mantiene alejados de la garganta del otro.

El problema no es que la IA mejore nuestro autoconocimiento. El problema es un disparidad de poder en lo que se sabe de nosotros. El conocimiento sobre nosotros exclusivamente en manos de otra persona es poder sobre nosotros. Pero el conocimiento sobre nosotros en nuestras propias manos es poder para nosotros.

Cualquiera que procesa nuestros datos para crear conocimiento sobre nosotros debería estar legalmente obligado a devolvernos ese conocimiento. Necesitamos actualizar la idea de "nada de nosotros sin nosotros”Para la era de la IA.

Lo que la IA nos dice sobre nosotros mismos es que consideremos el uso, no que otros se beneficien del abuso. Solo debería haber una mano en el timón de nuestra alma. Y debería ser nuestro.La conversación

Sobre el Autor

Simon McCarthy-Jones, Profesor Asociado en Psicología Clínica y Neuropsicología, Trinity College de Dublín

Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

seguir a InnerSelf en

facebook-icontwitter-iconrss-icon

Obtenga lo último por correo electrónico

{Off} = emailcloak

DE LOS EDITORES

Boletín de InnerSelf: Septiembre 20, 2020
by InnerSelf Personal
El tema del boletín de esta semana se puede resumir como "usted puede hacerlo" o más específicamente "¡nosotros podemos hacerlo!". Esta es otra forma de decir "usted / nosotros tenemos el poder de hacer un cambio". La imagen de…
Lo que funciona para mí: "¡Puedo hacerlo!"
by Marie T. Russell, InnerSelf
La razón por la que comparto "lo que funciona para mí" es que también puede funcionar para usted. Si no es exactamente de la forma en que lo hago, ya que todos somos únicos, alguna variación de la actitud o el método puede muy bien ser algo ...
Boletín de InnerSelf: Septiembre 6, 2020
by InnerSelf Personal
Vemos la vida a través de los lentes de nuestra percepción. Stephen R. Covey escribió: "Vemos el mundo, no como es, sino como somos, o como estamos condicionados para verlo". Así que esta semana, echamos un vistazo a algunos ...
Boletín de InnerSelf: agosto 30, 2020
by InnerSelf Personal
Los caminos por los que viajamos en estos días son tan antiguos como los tiempos, pero son nuevos para nosotros. Las experiencias que estamos teniendo son tan antiguas como los tiempos, pero también son nuevas para nosotros. Lo mismo ocurre con el ...
Cuando la verdad es tan terrible que duele, actúe
by Marie T. Russell, InnerSelf.com
En medio de todos los horrores que están ocurriendo estos días, me inspiran los rayos de esperanza que brillan a través de ellos. Gente común que defiende lo que está bien (y contra lo que está mal). Jugadores de béisbol,…