Fotografía de: Norbert Aepli, Suiza (Usuario: Noebu)
En 2016, los autos sin conductor se generalizaron. Vehículos autónomos de Uber se hizo ubicuo en los vecindarios donde vivo en Pittsburgh, y brevemente en San Francisco. El Departamento de Transporte de EE. UU. Emitió nueva guía regulatoria para ellos. Incontable papeles y columnas discutió cómo los autos sin conductor tienes resolver dilemas éticos cuando las cosas van mal. Y, desafortunadamente, 2016 también vio el primera muerte que involucra un vehículo autónomo.
Las tecnologías autónomas se están extendiendo rápidamente más allá del sector del transporte, hacia seguro de salud,, ciberdefensa avanzada e incluso armas autónomas. En 2017, tendremos que decidir si podemos confiar en estas tecnologías. Eso va a ser mucho más difícil de lo que podríamos esperar.
La confianza es compleja y variada, pero también una parte clave de nuestras vidas. A menudo confiamos en la tecnología basado en la previsibilidad: Confío en algo si sé lo que hará en una situación particular, incluso si no sé por qué. Por ejemplo, confío en mi computadora porque sé cómo funcionará, incluso cuándo se descompondrá. Dejo de confiar si comienza a comportarse de manera diferente o sorprendentemente.
Por el contrario, mi confianza en mi esposa se basa en entendiendo sus creencias, valores y personalidad. En términos más generales, la confianza interpersonal no implica saber exactamente lo que hará la otra persona: ¡a veces mi esposa me sorprende! - sino más bien por qué actúan como lo hacen. Y, por supuesto, podemos confiar en alguien (o algo así) en ambos sentidos, si sabemos qué harán y por qué.
He estado explorando posibles bases para nuestra confianza en los autos sin conductor y otras tecnologías autónomas desde perspectivas tanto éticas como psicológicas. Estos son dispositivos, por lo que la predictibilidad podría parecer la clave. Debido a su autonomía, sin embargo, debemos considerar la importancia y el valor, y el desafío, de aprender a confiar en ellos de la manera en que confiamos en otros seres humanos.
Autonomía y predictibilidad
Queremos que nuestras tecnologías, incluidos los automóviles sin conductor, se comporten de maneras que podamos predecir y esperar. Por supuesto, estos sistemas pueden ser bastante sensibles al contexto, incluidos otros vehículos, peatones, condiciones climáticas, etc. Sin embargo, en general, podríamos esperar que un automóvil que se conduce de manera automática y que se coloca repetidamente en el mismo entorno debería comportarse presumiblemente de manera similar cada vez. Pero, ¿en qué sentido serían estos autos altamente predecibles autónomos, en lugar de meramente automáticos?
Allí tienen esto muchos una experiencia diferente Los intentos a definir autonomía, pero todos tienen esto en común: los sistemas autónomos pueden tomar sus propias decisiones y planes (sustantivos) y, por lo tanto, pueden actuar de forma diferente a lo esperado.
De hecho, una razón para emplear la autonomía (a diferencia de la automatización) es precisamente que esos sistemas pueden seguir cursos de acción inesperados y sorprendentes, aunque justificables. Por ejemplo, AlphaGo de DeepMind ganó el segundo juego de su reciente serie Go contra Lee Sedol en parte debido a un movimiento que ningún jugador humano haría jamás, pero que sin embargo fue el movimiento correcto. Pero esas mismas sorpresas dificultan establecer una confianza basada en la predicción. Se puede decir que una sólida confianza basada únicamente en la previsibilidad es posible solo para sistemas automatizados o automáticos, precisamente porque son predecibles (suponiendo que el sistema funcione normalmente).
Abrazar sorpresas
Por supuesto, otras personas con frecuencia nos sorprenden, y sin embargo podemos confiar en ellos en un grado notable, incluso dándoles poder de vida o muerte sobre nosotros mismos. Los soldados confían en sus camaradas en entornos complejos y hostiles; una paciente confía en que su cirujano extirpe un tumor; y en una vena más mundana, mi esposa confía en mí para conducir con seguridad. Esta confianza interpersonal nos permite abrazar las sorpresas, ¿entonces quizás podríamos desarrollar algo así como la confianza interpersonal en los autos sin conductor?
En general, la confianza interpersonal requiere una comprensión de por qué alguien actuó de una manera particular, incluso si no puede predecir la decisión exacta. Es posible que mi esposa no sepa exactamente cómo conduciré, pero ella sabe el tipo de razonamiento que uso cuando manejo. Y en realidad es relativamente fácil entender por qué alguien más hace algo, precisamente porque todos pensamos y razonamos aproximadamente de manera similar, aunque con diferentes "ingredientes crudos": nuestras creencias, deseos y experiencias.
De hecho, continua e inconscientemente hacemos inferencias sobre las creencias y deseos de otras personas en función de sus acciones, en gran parte suponiendo que piensan, razonan y deciden aproximadamente como nosotros. Todas estas inferencias y razonamientos basados en nuestra cognición (humana) compartida nos permiten comprender las razones de los demás y, de ese modo, construir una confianza interpersonal a lo largo del tiempo.
Pensando como personas?
Las tecnologías autónomas, en particular los automóviles sin conductor, no piensan ni deciden como personas. Hubo esfuerzos, tanto pasado y reciente, para desarrollar sistemas informáticos que piensen y razonen como los humanos. Sin embargo, un tema constante del aprendizaje automático en las últimas dos décadas ha sido el enorme aumento logrado precisamente al no requerir que nuestros sistemas de inteligencia artificial operen de forma similar a la humana. En cambio, los algoritmos y sistemas de aprendizaje automático como AlphaGo a menudo han sido capaces de superan a los expertos humanos centrándose en problemas específicos y localizados, y luego resolviéndolos de forma bastante diferente que los humanos.
Como resultado, los intentos de interpretar una tecnología autónoma en términos de creencias y deseos similares a los humanos pueden ir espectacularmente mal. Cuando un conductor humano ve una pelota en la carretera, la mayoría de nosotros disminuye la velocidad de manera significativa, para evitar golpear a un niño que podría estar persiguiéndolo. Si viajamos en un automóvil autónomo y vemos que una pelota rueda hacia la calle, esperamos que el automóvil lo reconozca y esté preparado para detenerse por correr niños. Sin embargo, el automóvil podría ver solo un obstáculo a evitar. Si se desvía sin disminuir la velocidad, los humanos a bordo podrían alarmarse, y un niño podría estar en peligro.
Nuestras inferencias sobre las "creencias" y los "deseos" de un automóvil sin conductor seguramente serán erróneas de manera importante, precisamente porque el automóvil no tiene creencias o deseos similares a los humanos. No podemos desarrollar la confianza interpersonal en un automóvil que se conduce solo al verlo conducir, ya que no deduciremos correctamente los motivos detrás de sus acciones.
Por supuesto, los clientes de la sociedad o del mercado podrían insistir en masa en que los autos que circulan por sí mismos tienen características humanas (psicológicas), precisamente para que podamos comprender y desarrollar la confianza interpersonal en ellos. Esta estrategia daría un significado totalmente nuevo a "diseño centrado en el ser humano", Ya que los sistemas se diseñarían específicamente para que sus acciones sean interpretables por los humanos. Pero también requeriría incluir novela algoritmos y técnicas en el auto sin conductor, todo lo cual representaría un cambio masivo de las estrategias actuales de investigación y desarrollo para automóviles autodirigidos y otras tecnologías autónomas.
Los autos sin conductor tienen el potencial de remodelar radicalmente nuestra infraestructura de transporte de muchas maneras beneficiosas, pero solo si podemos confiar en ellos lo suficiente como para realmente usarlos. E, irónicamente, la característica que hace que los automóviles que conducen de forma autónoma sean valiosos -su decisión flexible y autónoma en diversas situaciones- es exactamente lo que hace que sea difícil confiar en ellos.
authirhere
David Danks, Profesor de Filosofía y Psicología, Carnegie Mellon University
Este artículo se publicó originalmente el La conversación. Leer el articulo original.
Libros relacionados:
at InnerSelf Market y Amazon
