Los historiadores del futuro bien podrían considerar el año 2023 como un hito en el advenimiento de la inteligencia artificial (IA). Pero si ese futuro demostrará utópico, apocalíptico or en algún lugar entremedio nadie lo sabe.

En febrero, ChatGPT estableció el récord como la aplicación más rápida en alcanzar 100 millones de usuarios. Le siguieron modelos similares de IA en “lenguaje grande” de Google, Amazon, Meta y otras grandes empresas tecnológicas, que en conjunto parecen preparadas para transformar la educación, la atención sanitaria y muchos otros campos intensivos en conocimiento.

Sin embargo, el potencial dañino de la IA fue subrayado en mayo por un declaración siniestra firmado por destacados investigadores:

Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear.

En noviembre, en respuesta a la creciente preocupación por el riesgo de la IA, 27 naciones (incluidos el Reino Unido, EE. UU., India, China y la Unión Europea) se comprometieron a cooperar en una Cumbre inaugural sobre seguridad de la IA en Bletchley Park, Inglaterra, para garantizar el desarrollo seguro de la IA. Para el beneficio de todos.

Para lograrlo, los investigadores se centran en Alineación de IA – es decir, cómo garantizar que los modelos de IA sean coherentes con los valores, preferencias y objetivos humanos. Pero hay un problema: la llamada “inteligencia artificial” de la IA.secreto oscuro”: los modelos a gran escala son tan complejos que parecen una caja negra, imposible de comprender por completo para cualquiera.

El problema de la caja negra de la IA

Aunque la transparencia y la explicabilidad de los sistemas de IA son importantes objetivos de investigación, parece poco probable que tales esfuerzos sigan el ritmo frenético de la innovación.

La metáfora de la caja negra explica por qué las creencias de la gente sobre la IA están por todas partes. Las predicciones van desde la utopía hasta la extinción, y muchos incluso creen que pronto aparecerá una inteligencia artificial general (AGI). alcanzar la sensibilidad.

Pero esta incertidumbre agrava el problema. La alineación de la IA debe ser una vía de doble sentido: no sólo debemos garantizar que los modelos de IA sean consistentes con las intenciones humanas, sino también que nuestras creencias sobre la IA sean precisas.

Esto se debe a que somos notablemente expertos en crear futuros que estén de acuerdo con esas creencias, incluso si no somos conscientes de ellas.

El llamado "efectos de expectativa”, o profecías autocumplidas, son muy conocidas en psicología. Y las investigaciones han demostrado que manipular las creencias de los usuarios influye no sólo en cómo interactuar con la IA, pero ¿cómo funciona la IA? se adapta al usuario.

En otras palabras, la forma en que nuestras creencias (conscientes o inconscientes) afectan a la IA puede aumentar potencialmente la probabilidad de cualquier resultado, incluidos los catastróficos.

IA, computación, lógica y aritmética

Necesitamos investigar más profundamente para comprender la base de la IA: como Alicia en el país de las maravillas, adentrarnos en la madriguera del conejo y ver adónde nos lleva.

En primer lugar, ¿qué es la IA? Se ejecuta en computadoras, al igual que la computación automatizada. Desde su origen como el “perceptron” – una neurona artificial definida matemáticamente en 1943 por un neurofisiólogo Warren McCulloch y lógico walter pits – La IA se ha entrelazado con las ciencias cognitivas, la neurociencia y la informática.

Esta convergencia de mente, sesos y máquinas ha llevado a la creencia generalizada de que, dado que la IA es computación realizada por una máquina, entonces la inteligencia natural (la mente) debe ser computación realizada por el cerebro.

Pero ¿qué es la computación? A finales del siglo XIX, los matemáticos Richard Dedekind y Giuseppe Peano propuso un conjunto de axiomas que aritmética definida en términos de lógica, e inspiró intentos de fundamentar todas las matemáticas en una base segura. base formal.

Aunque el lógico Kurt Godel Más tarde se demostró que este objetivo era inalcanzable, su trabajo fue el punto de partida para el matemático (y descifrador de códigos) Alan Turing. Su "Máquina de Turing”, un dispositivo abstracto capaz de computación universal, es la base de la informática.

Estructura profunda de la percepción.

Entonces, la computación se basa en ideas matemáticas que se remontan a los esfuerzos por definir la aritmética en lógica. Pero nuestro conocimiento de la aritmética existe. antes de la lógica. Si queremos comprender las bases de la IA, debemos ir más allá y preguntarnos de dónde viene la aritmética misma.

Mis colegas y yo hemos demostrado recientemente que la aritmética se basa en "estructura profunda”de percepción. Esta estructura es como gafas de colores que moldean nuestra percepción de maneras particulares, de modo que nuestra experiencia del mundo sea ordenada y manejable.

La aritmética consta de un conjunto de elementos (números) y operaciones (suma, multiplicación) que combinan pares de elementos para dar otro elemento. Preguntamos: de todas las posibilidades, ¿por qué los números son los elementos y la suma y la multiplicación las operaciones?

Mostramos por prueba matemática que cuando se suponía que la estructura profunda de la percepción limitaba las posibilidades, el resultado era la aritmética. En otras palabras, cuando nuestra mente ve el mundo abstracto a través de los mismos “anteojos de colores” que dan forma a nuestra experiencia del mundo físico, “ve” números y aritmética.

Dado que la aritmética es la base de las matemáticas, la implicación es que las matemáticas son un reflejo de la mente, una expresión en símbolos de su naturaleza fundamental y creatividad.

Aunque la estructura profunda de la percepción es compartida con otros animales y, por tanto, producto de la evolución, sólo los humanos han inventado las matemáticas. Es nuestra creación más íntima y, al permitir el desarrollo de la IA, quizás la más trascendental.

Una revolución copernicana de la mente

nuestra cuenta de origen de la aritmética es consistente con las opiniones del filósofo del siglo XVIII Immanuel Kant. Según él, nuestro conocimiento del mundo está estructurado por “intuiciones puras” del espacio y el tiempo que existen antes de la experiencia sensorial, análogas a las gafas de colores que nunca podemos quitarnos.

Kant afirmó su filosofía Fue una “revolución copernicana de la mente”. De la misma manera que los antiguos astrónomos creían que el Sol giraba alrededor de la Tierra porque no eran conscientes del movimiento de la Tierra, argumentó Kant, los filósofos que creían que todo conocimiento se deriva de experiencia sensorial (John Locke y David Hume, por ejemplo) pasaron por alto cómo la mente da forma a la percepción.

Aunque las opiniones de Kant fueron moldeadas por la ciencias naturales de su época, lo han demostrado influyente en la psicología contemporánea.

El reconocimiento de que la aritmética es una consecuencia natural de nuestra percepción, y por tanto con base biológica, sugiere un cambio kantiano similar en nuestra comprensión de la computación.

La computación no está “afuera” ni separada de nosotros en un reino abstracto de verdad matemática, sino inherente a la naturaleza de nuestra mente. La mente es más que computación; el cerebro no es una computadora. Más bien, la computación –la base de la IA– es, como las matemáticas, una expresión simbólica de la naturaleza y la creatividad de la mente.

fuego prometeico

¿Cuáles son las implicaciones para la IA? En primer lugar, la IA no es una mente y nunca se volverá sensible. La idea de que podemos trascender nuestra naturaleza biológica y alcanzar la inmortalidad subiendo nuestra mente a la nube es sólo fantasía.

Sin embargo, si los principios mentales en los que se basa la IA son compartidos por toda la humanidad (y probablemente también por otras criaturas vivientes), tal vez sea posible trascender las limitaciones de nuestras mentes individuales.

Debido a que la computación es universal, somos libres de simular y crear cualquier resultado que elijamos en nuestros mundos físicos y virtuales cada vez más conectados. De esta manera, la IA es verdaderamente nuestra fuego prometeico, un regalo para la humanidad robado a los dioses como en mitología griega.

Como civilización global, es probable que estemos en un punto de inflexión. La IA no se volverá sensible y decidirá matarnos a todos. Pero somos muy capaces de “apocalipsis” con ello: las expectativas pueden crear la realidad.

Los esfuerzos para garantizar la alineación y la seguridad de la IA son de vital importancia, pero pueden no ser suficientes si carecemos de conciencia y sabiduría colectiva. Como Alicia, necesitamos despertar del sueño y reconocer la realidad y el poder de nuestra mente.

Gracia RandolphProfesor de psicología, Universidad de Canterbury

Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.