Encontrar confianza y comprensión en tecnologías autónomas

Encontrar confianza y comprensión en tecnologías autónomasFotografía de: Norbert Aepli, Suiza (Usuario: Noebu)

En 2016, los autos sin conductor se generalizaron. Vehículos autónomos de Uber se hizo ubicuo en los vecindarios donde vivo en Pittsburgh, y brevemente en San Francisco. El Departamento de Transporte de EE. UU. Emitió nueva guía regulatoria para ellos. Incontable papeles y columnas discutió cómo los autos sin conductor deberían resolver dilemas éticos cuando las cosas van mal. Y, desafortunadamente, 2016 también vio el primera muerte que involucra un vehículo autónomo.

Las tecnologías autónomas se están extendiendo rápidamente más allá del sector del transporte, hacia cuidado de la salud, ciberdefensa avanzada e incluso armas autónomas. En 2017, tendremos que decidir si podemos confiar en estas tecnologías. Eso va a ser mucho más difícil de lo que podríamos esperar.

La confianza es compleja y variada, pero también una parte clave de nuestras vidas. A menudo confiamos en la tecnología basado en la previsibilidad: Confío en algo si sé lo que hará en una situación particular, incluso si no sé por qué. Por ejemplo, confío en mi computadora porque sé cómo funcionará, incluso cuándo se descompondrá. Dejo de confiar si comienza a comportarse de manera diferente o sorprendentemente.

Por el contrario, mi confianza en mi esposa se basa en entendiendo sus creencias, valores y personalidad. En términos más generales, la confianza interpersonal no implica saber exactamente lo que hará la otra persona: ¡a veces mi esposa me sorprende! - sino más bien por qué actúan como lo hacen. Y, por supuesto, podemos confiar en alguien (o algo así) en ambos sentidos, si sabemos qué harán y por qué.

He estado explorando posibles bases para nuestra confianza en los autos sin conductor y otras tecnologías autónomas desde perspectivas tanto éticas como psicológicas. Estos son dispositivos, por lo que la predictibilidad podría parecer la clave. Debido a su autonomía, sin embargo, debemos considerar la importancia y el valor, y el desafío, de aprender a confiar en ellos de la manera en que confiamos en otros seres humanos.

Autonomía y predictibilidad

Queremos que nuestras tecnologías, incluidos los automóviles sin conductor, se comporten de maneras que podamos predecir y esperar. Por supuesto, estos sistemas pueden ser bastante sensibles al contexto, incluidos otros vehículos, peatones, condiciones climáticas, etc. Sin embargo, en general, podríamos esperar que un automóvil que se conduce de manera automática y que se coloca repetidamente en el mismo entorno debería comportarse presumiblemente de manera similar cada vez. Pero, ¿en qué sentido serían estos autos altamente predecibles autónomos, en lugar de meramente automáticos?

Allí tienen esto muchas diferente Los intentos a definir autonomía, pero todos tienen esto en común: los sistemas autónomos pueden tomar sus propias decisiones y planes (sustantivos) y, por lo tanto, pueden actuar de forma diferente a lo esperado.


Obtenga lo último de InnerSelf


De hecho, una razón para emplear la autonomía (a diferencia de la automatización) es precisamente que esos sistemas pueden seguir cursos de acción inesperados y sorprendentes, aunque justificables. Por ejemplo, AlphaGo de DeepMind ganó el segundo juego de su reciente serie Go contra Lee Sedol en parte debido a un movimiento que ningún jugador humano haría jamás, pero que sin embargo fue el movimiento correcto. Pero esas mismas sorpresas dificultan establecer una confianza basada en la predicción. Se puede decir que una sólida confianza basada únicamente en la previsibilidad es posible solo para sistemas automatizados o automáticos, precisamente porque son predecibles (suponiendo que el sistema funcione normalmente).

Abrazar sorpresas

Por supuesto, otras personas con frecuencia nos sorprenden, y sin embargo podemos confiar en ellos en un grado notable, incluso dándoles poder de vida o muerte sobre nosotros mismos. Los soldados confían en sus camaradas en entornos complejos y hostiles; una paciente confía en que su cirujano extirpe un tumor; y en una vena más mundana, mi esposa confía en mí para conducir con seguridad. Esta confianza interpersonal nos permite abrazar las sorpresas, ¿entonces quizás podríamos desarrollar algo así como la confianza interpersonal en los autos sin conductor?

En general, la confianza interpersonal requiere una comprensión de por qué alguien actuó de una manera particular, incluso si no puede predecir la decisión exacta. Es posible que mi esposa no sepa exactamente cómo conduciré, pero ella sabe el tipo de razonamiento que uso cuando manejo. Y en realidad es relativamente fácil entender por qué alguien más hace algo, precisamente porque todos pensamos y razonamos aproximadamente de manera similar, aunque con diferentes "ingredientes crudos": nuestras creencias, deseos y experiencias.

De hecho, continua e inconscientemente hacemos inferencias sobre las creencias y deseos de otras personas en función de sus acciones, en gran parte suponiendo que piensan, razonan y deciden aproximadamente como nosotros. Todas estas inferencias y razonamientos basados ​​en nuestra cognición (humana) compartida nos permiten comprender las razones de los demás y, de ese modo, construir una confianza interpersonal a lo largo del tiempo.

Pensando como personas?

Las tecnologías autónomas, en particular los automóviles sin conductor, no piensan ni deciden como personas. Hubo esfuerzos, tanto pasado y reciente, para desarrollar sistemas informáticos que piensen y razonen como los humanos. Sin embargo, un tema constante del aprendizaje automático en las últimas dos décadas ha sido el enorme aumento logrado precisamente al no requerir que nuestros sistemas de inteligencia artificial operen de forma similar a la humana. En cambio, los algoritmos y sistemas de aprendizaje automático como AlphaGo a menudo han sido capaces de superan a los expertos humanos centrándose en problemas específicos y localizados, y luego resolviéndolos de forma bastante diferente que los humanos.

Como resultado, los intentos de interpretar una tecnología autónoma en términos de creencias y deseos similares a los humanos pueden ir espectacularmente mal. Cuando un conductor humano ve una pelota en la carretera, la mayoría de nosotros disminuye la velocidad de manera significativa, para evitar golpear a un niño que podría estar persiguiéndolo. Si viajamos en un automóvil autónomo y vemos que una pelota rueda hacia la calle, esperamos que el automóvil lo reconozca y esté preparado para detenerse por correr niños. Sin embargo, el automóvil podría ver solo un obstáculo a evitar. Si se desvía sin disminuir la velocidad, los humanos a bordo podrían alarmarse, y un niño podría estar en peligro.

Nuestras inferencias sobre las "creencias" y los "deseos" de un automóvil sin conductor seguramente serán erróneas de manera importante, precisamente porque el automóvil no tiene creencias o deseos similares a los humanos. No podemos desarrollar la confianza interpersonal en un automóvil que se conduce solo al verlo conducir, ya que no deduciremos correctamente los motivos detrás de sus acciones.

Por supuesto, los clientes de la sociedad o del mercado podrían insistir en masa en que los autos que circulan por sí mismos tienen características humanas (psicológicas), precisamente para que podamos comprender y desarrollar la confianza interpersonal en ellos. Esta estrategia daría un significado totalmente nuevo a "diseño centrado en el ser humano", Ya que los sistemas se diseñarían específicamente para que sus acciones sean interpretables por los humanos. Pero también requeriría incluir novela algoritmos y técnicas en el auto sin conductor, todo lo cual representaría un cambio masivo de las estrategias actuales de investigación y desarrollo para automóviles autodirigidos y otras tecnologías autónomas.

Los autos sin conductor tienen el potencial de remodelar radicalmente nuestra infraestructura de transporte de muchas maneras beneficiosas, pero solo si podemos confiar en ellos lo suficiente como para realmente usarlos. E, irónicamente, la característica que hace que los automóviles que conducen de forma autónoma sean valiosos -su decisión flexible y autónoma en diversas situaciones- es exactamente lo que hace que sea difícil confiar en ellos.

La conversación

authirhere

David Danks, Profesor de Filosofía y Psicología, Carnegie Mellon University

Este artículo se publicó originalmente el La conversación. Leer el articulo original.

Libros relacionados:

{amazonWS: searchindex = Libros; palabras clave = autos que conducen por sí mismos; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

seguir a InnerSelf en

facebook-icontwitter-iconrss-icon

Obtenga lo último por correo electrónico

{Off} = emailcloak

DE LOS EDITORES

Todos estamos siendo educados en casa ... en el planeta Tierra
by Marie T. Russell, InnerSelf
Durante los tiempos difíciles, y probablemente principalmente durante los tiempos difíciles, debemos recordar que "esto también pasará" y que en cada problema o crisis, hay algo que aprender, otro ...
Monitoreo de salud en tiempo real
by Robert Jennings, InnerSelf.com
Me parece que este proceso es muy importante en el futuro. Junto con otros dispositivos, ahora podemos monitorear a distancia la salud de las personas en tiempo real.
Prueba de anticuerpos baratos que cambia el juego enviada para validación en la lucha contra el coronavirus
by Alistair Smout y Andrew MacAskill
LONDRES (Reuters) - Una compañía británica detrás de una prueba de anticuerpos contra el coronavirus de 10 minutos, que costará alrededor de $ 1, ha comenzado a enviar prototipos a los laboratorios para su validación, lo que podría ser un ...
Cómo contrarrestar la epidemia de miedo
by Marie T. Russell, InnerSelf
Compartiendo un mensaje enviado por Barry Vissell sobre la epidemia de miedo que ha infectado a muchas personas ...
Cómo se ve y suena el verdadero liderazgo
by Robert Jennings, InnerSelf.com
El Teniente General Todd Semonite, Jefe de Ingenieros y comandante general del Cuerpo de Ingenieros del Ejército, habla con Rachel Maddow sobre cómo trabaja el Cuerpo de Ingenieros del Ejército con otras agencias federales y ...
Lo que funciona para mí: escuchar mi cuerpo
by Marie T. Russell, InnerSelf
El cuerpo humano es una creación asombrosa. Funciona sin necesidad de nuestra opinión sobre qué hacer. El corazón late, los pulmones bombean, los ganglios linfáticos hacen lo suyo, el proceso de evacuación funciona. El cuerpo…