La información es un bien valioso. Y gracias a la tecnología, hay millones de terabytes de él en línea.
Las herramientas de inteligencia artificial (IA), como ChatGPT, ahora administran esta información en nuestro nombre: la recopilan, la resumen y nos la presentan.
Pero esta “subcontratación” de la gestión de la información a la IA, por muy conveniente que sea, tiene consecuencias. Puede influir no sólo qué pensamos, pero potencialmente también cómo Nosotros pensamos.
¿Qué sucede en un mundo donde los algoritmos de IA deciden qué información se perpetúa y qué se deja en el camino?
El auge de la IA personalizada
Las herramientas de IA generativa se basan en modelos entrenados en cientos de gigabytes de datos preexistentes. A partir de estos datos, aprenden a crear de forma autónoma texto, imágenes, contenido de audio y vídeo, y pueden responder a las consultas de los usuarios reuniendo la respuesta "más probable".
ChatGPT es utilizado por millones de personas, a pesar de haber sido hecho público hace menos de un año. En junio, la incorporación de respuestas personalizadas hizo que el ya impresionante chatbot fuera aún más útil. Esta función permite a los usuarios guardar instrucciones personalizadas que explican para qué están usando el bot y cómo les gustaría que responda.
Este es uno de varios ejemplos de “IA personalizada”: una categoría de herramientas de IA que generan contenido para satisfacer las necesidades y preferencias específicas del usuario.
Otro ejemplo es el reciente lanzamiento de Meta. asistentes virtuales, Meta IA. Este chatbot puede tener conversaciones, generar imágenes y realizar tareas en las plataformas de Meta, incluidas WhatsApp, Messenger e Instagram.
El investigador de inteligencia artificial y cofundador de DeepMind, Mustafa Suleyman, describe La IA personalizada es más una relación que una tecnología:
Es un amigo. […] Realmente estará siempre presente y junto a ti, viviendo contigo, básicamente en tu equipo. Me gusta pensar que es como tener un gran entrenador de tu lado.
Pero estas tecnologías también son controvertidas, y surgen preocupaciones sobre propiedad de los datos, parcialidad y desinformación.
Las empresas de tecnología están intentando encontrar formas de combatir estos problemas. Por ejemplo, Google ha agregado enlaces de origen a resúmenes de búsqueda generados por IA producidos por su Buscar experiencia generativa (SGE), que fue criticada a principios de este año por ofreciendo respuestas inexactas y problemáticas.
La tecnología ya ha cambiado nuestra forma de pensar
¿Cómo cambiarán nuestra forma de pensar las herramientas de IA generativa, y especialmente las personalizadas para nosotros?
Para entender esto, volvamos a principios de la década de 1990, cuando Internet llegó por primera vez a nuestras vidas. De repente, la gente podía acceder a información sobre prácticamente cualquier cosa, ya fuera banca, repostería, enseñanza o viajes.
Casi 30 años después, los estudios han demostrado cómo estar conectados a esta “mente colmena” global ha cambiado nuestra cognición, memoria y creatividad.
Por ejemplo, tener acceso instantáneo al equivalente de 305.5 mil millones de páginas de información ha aumentado la capacidad de las personas meta-conocimiento – es decir, su conocimiento sobre el conocimiento. Un impacto de esto es el “efecto google”: un fenómeno en el que la búsqueda en línea aumenta nuestra capacidad para encontrar información, pero reduce nuestra memoria de cuál era esa información.
Por un lado, se ha demostrado que descargar nuestro pensamiento en los motores de búsqueda libera nuestras reservas mentales para resolución de problemas y pensamiento creativo. Por otro lado, la recuperación de información en línea se ha asociado con un aumento distraibilidad y dependencia.
Las investigaciones también muestran que la búsqueda en línea –independientemente de la cantidad o calidad de la información recuperada– aumenta nuestra autoestima cognitiva. En otras palabras, aumenta nuestra confianza en nuestra propia "inteligencia".
Combine esto con el hecho de que cuestionar la información requiere esfuerzo – y que cuanto más confiamos en nuestro motor de búsqueda, menos críticamente comprometerse con sus resultados – y se puede ver por qué tener acceso a cantidades de información sin precedentes no necesariamente nos hace más sabios.
¿Deberíamos "subcontratar" nuestro pensamiento?
Las herramientas de IA generativa actuales van mucho más allá de simplemente presentarnos resultados de búsqueda. Localizan la información por nosotros, la evalúan, la sintetizan y nos la presentan.
¿Cuáles podrían ser las implicaciones de esto? Sin impulsar un control de calidad dirigido por humanos, las perspectivas no son prometedoras.
La capacidad de la IA generativa para producir respuestas que resulten familiares, objetivas y atractivas significa que nos deja más vulnerables a sesgos cognitivos.
El sesgo de automatización, por ejemplo, es la tendencia humana a sobreestimar la integridad de la información obtenida por máquinas. Y el mera exposición El efecto es cuando es más probable que confiemos en la información que se presenta como familiar o personal.
La investigación sobre las redes sociales puede ayudarnos a comprender el impacto de tales sesgos. En un estudio de 2016, los usuarios de Facebook informaron sentirse más “informado” basado en la cantidad de contenido de noticias publicado en línea, y no en la cantidad que realmente leen.
También sabemos que “filtrar las burbujas”creados por algoritmos de redes sociales, en los que nuestros feeds se filtran según nuestros intereses, limitan la diversidad del contenido al que estamos expuestos.
Se ha demostrado que este proceso de reducción de la información aumenta polarización ideológica reduciendo la propensión de las personas a considerar perspectivas alternativas. También se ha demostrado que aumenta nuestra probabilidad de estar expuestos a noticias falsas.
Usar la IA para ser más inteligente y no tonto
La IA generativa es, sin duda, una fuerza revolucionaria con potencial para hacer grandes cosas por la sociedad. Podría reformar nuestro sistema educativo proporcionando contenido personalizado, cambiar nuestras prácticas laborales agilizando redacción y análisis de informacióny ampliar las fronteras de descubrimiento científico.
Incluso tiene el potencial de alterar positivamente nuestras relaciones al ayudarnos a comunicarnos y conectarnos con los demás y, en ocasiones, puede funcionar como un forma de compañía sintética.
Pero si nuestra única manera de juzgar el futuro es mirando al pasado, tal vez ahora sea el momento de reflexionar sobre cómo tanto Internet como las redes sociales han cambiado nuestra cognición, y aplicar algunas medidas de precaución. Desarrollando Alfabetización en IA es un buen punto de partida, al igual que el diseño de herramientas de inteligencia artificial que fomenten la autonomía humana y el pensamiento crítico.
En última instancia, necesitaremos entender tanto nuestra propia y las fortalezas y debilidades de la IA para garantizar que estos compañeros “pensantes” nos ayuden a crear el futuro que queremos, y no el que encabeza la lista.
Sara Vivienne Bentley, Investigador Científico, Innovación Responsable, Data61, CSIRO; claire mason, científico investigador principal, CSIROy Einat Grimberg, Investigador Postdoctoral en Tecnología y Ciencias Sociales, CSIRO
Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.
