Ahmet Misirligul / Shutterstock
El cortometraje Slaughterbots muestra un futuro cercano en el que enjambres de micro drones asesinan a miles de personas por sus creencias políticas. Lanzado en noviembre 2017 Por académicos y activistas que advirtieron sobre los peligros de la inteligencia artificial avanzada (IA), rápidamente se volvió viral, atrayendo más de 3m vistas hasta la fecha. Ayudó a provocar un debate publico sobre el futuro de las armas autónomas y presionar a los diplomáticos reunidos en las Naciones Unidas Convención sobre armas convencionales.
Pero este tipo de narración especulativa de ciencia ficción no solo es útil para atraer la atención. Las personas que diseñan y construyen tecnología avanzada pueden usar historias para considerar las consecuencias de su trabajo y asegurarse de que se use para siempre. Y creemos que este tipo de "creación de prototipos de ciencia ficción" o "diseño de ficción" podría ayudar a evitar que los prejuicios humanos se abran camino hacia la nueva tecnología, afianzando aún más los prejuicios e injusticias de la sociedad.
{vembed Y = 9CO6M2HsoIA}
Un sesgo puede conducir a la preferencia arbitraria de algunas categorías (de resultados, personas o ideas) sobre otras. Por ejemplo, algunas personas pueden estar sesgadas en contra de contratar mujeres para trabajos ejecutivos, ya sea que estén conscientes de ello. o no.
La tecnología construida alrededor de datos que registran tal sesgo puede terminar replicando el problema. Por ejemplo, el software de reclutamiento diseñado para seleccionar los mejores CV para un trabajo en particular podría programarse para buscar características que reflejen un sesgo inconsciente hacia los hombres. En cuyo caso, el algoritmo terminará favoreciendo los CV de hombres. Y esto no es teórico, es en realidad le pasó a Amazon.
Diseñar algoritmos sin considerar posibles implicaciones negativas ha sido comparado a los médicos "escribiendo sobre los beneficios de un tratamiento dado e ignorando por completo los efectos secundarios, sin importar cuán graves sean".
Algunas empresas tecnológicas e investigadores están tratando de abordar el problema. Por ejemplo, Google elaboró un conjunto de principios éticos para guiar su desarrollo de IA. Y académicos del Reino Unido han lanzado una iniciativa llamada No es igual El objetivo es fomentar una mayor equidad y justicia en el diseño y uso de la tecnología.
El problema es que, públicamente, las empresas tienden a ofrecer solo una visión positiva de las posibles consecuencias de las tecnologías de futuro cercano. Por ejemplo, los automóviles sin conductor a menudo se representan como la solución de todos nuestros problemas de transporte, desde el costo hasta la seguridad, ignorando el aumento peligros de los ciberataques o el hecho de que podrían alentar a las personas a caminar o andar en bicicleta menos.
La dificultad para comprender cómo funcionan las tecnologías digitales, especialmente aquellas que están fuertemente impulsadas por algoritmos oscuros, también dificulta que las personas tengan una visión compleja e integral de los problemas. Esta situación produce una tensión entre una narrativa positiva tranquilizadora y la vaga sospecha de que los prejuicios están integrados hasta cierto punto en las tecnologías que nos rodean. Aquí es donde creemos que la narración de historias a través de la ficción de diseño puede entrar.
Las historias son un método natural para pensar sobre posibilidades y situaciones complejas, y las hemos estado escuchando toda nuestra vida. La ciencia ficción puede ayudarnos a especular sobre el impacto de las tecnologías del futuro cercano en la sociedad, como lo hace Slaughterbots. Esto incluso puede incluir cuestiones de justicia social, como la forma en que ciertos grupos, como los refugiados y los migrantes, pueden ser excluido de innovaciones digitales
Revelando el (posible) futuro
Diseña historias de ficción Proporcionar una forma novedosa para que los diseñadores, ingenieros y futuristas (entre otros) piensen sobre el impacto de la tecnología desde una perspectiva humana y vinculen esto con posibles necesidades futuras. Con una mezcla de lógica e imaginación, la ficción de diseño puede revelar aspectos de cómo se puede adoptar y usar la tecnología, comenzando conversaciones sobre su ramificaciones futuras.
Por ejemplo, la historia corta "Abastecimiento del crimen"Explora lo que podría suceder si AI usara información de fuentes colectivas y una base de datos criminal para predecir quién podría cometer un asesinato. Los investigadores encontraron que debido a que la base de datos estaba llena de personas pertenecientes a grupos étnicos minoritarios que, por razones sociales, eran estadísticamente más propensas a reincidir, el modelo de "fuente del delito" era más propenso a sospecha erróneamente de minorías que los blancos.
No tiene que ser un escritor talentoso o hacer una película ingeniosa para producir ficción de diseño. Actividades de lluvia de ideas que involucran tarjetas y guiones gráficos ha sido usado para desarrollar ficción de diseño y ayudar a desarrollar el proceso de contar historias. Hacer que los talleres que utilizan este tipo de herramientas sean más comunes permitiría a más ingenieros, empresarios y formuladores de políticas utilizar este método de evaluación. Y hacer que el trabajo resultante esté disponible públicamente ayudaría a exponer posibles sesgos en las tecnologías antes de que afecten a la sociedad.
Alentar a los diseñadores a crear y compartir más historias de esta manera garantizaría que la narrativa que sustenta la nueva tecnología no solo presente una imagen positiva, ni extremadamente negativa o distópica. En cambio, las personas podrán apreciar ambos aspectos de lo que sucede a nuestro alrededor.
Acerca de los autores
Alessio Malizia, Profesor de Diseño de Experiencia de Usuario, Universidad de Hertfordshire y Silvio Carta, Jefe de Arte y Diseño y Presidente del Grupo de Investigación de Diseño, Universidad de Hertfordshire
Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.
