Cómo Big Tech diseña sus propias reglas de ética para evitar el escrutinio y la responsabilidad

Cómo Big Tech diseña sus propias reglas de ética para evitar el escrutinio y la responsabilidad

La ética de los datos es ahora una causa célèbre.

“Ética digital y privacidad” se incorporó a la empresa de investigación y asesoramiento Gartner's Las diez tendencias tecnológicas estratégicas principales para 2019. Antes de eso apenas levantó una mención.

En el año pasado gobiernos, corporaciones y política y tecnología los think tanks han publicado ética de datos guias Toda una cohorte de expertos en ética de los datos se ha materializado mágicamente.

¿Por qué este repentino interés en la ética de los datos? ¿Qué es la ética de los datos? ¿De quién son los intereses los lineamientos diseñados para servir?

Para comprender lo que está sucediendo, es necesario dar un paso atrás y observar cómo se ha desarrollado el panorama de la información.

La imagen que surge es de una industria inmune a las restricciones regulatorias que se aplican a todos los demás.

El brillo se ha ido

En los últimos años, la industria de la información ha perdido su brillo.


Obtenga lo último de InnerSelf


El indicador del revelaciones de Snowden, el Escándalo de Cambridge Analytica, habilitación de las redes sociales de el discurso del odio, el Armonización de la información y su papel en el debilitamiento de las instituciones democráticas. Han contribuido todos.

El modelo de negocio que monetiza la información personal para vender publicidad ahora se considera un negocio faustiano: tal vez el sacrificio no valga la pena, después de todo. De 2017 a 2018 hubo una 6% de caída en los usuarios de Facebook en los Estados Unidos en el lucrativo mercado 12-34 de hace un año.

Estas preocupaciones han dado lugar a pedidos de regulación. Pero estos han luchado para ganar fuerza contra la ortodoxia reguladora prevaleciente para el sector de la tecnología. Esto se remonta a Al Gore's. cinco principios para habilitar lo que luego se denominó de forma extraña la "supercarretera de información global".

El principio tres era que la política regulatoria "crearía un marco regulatorio flexible que pueda seguir el ritmo de los rápidos cambios tecnológicos y de mercado". Este fue el código para ninguna regulación, o autorregulación. En Australia se conocía como Regulación de "toque ligero".

Big tech actuó con impunidad reglamentaria, en gran parte liberada de las preocupaciones mundanas de la "vieja" economía, como la protección del consumidor, la responsabilidad del producto o la ley de competencia o, en particular, la privacidad de la información.

Dando vueltas más cerca

Europa nunca adoptó completamente este enfoque de laissez-faire. La privacidad de la información siempre ha sido una prioridad en su agenda, que culminó con el Reglamento de protección de datos general de 2018 (RGPD). Esto proporciona a las personas en la Unión Europea los derechos de protección de datos más completos del mundo. Los derechos tienen alcance extraterritorial, involucran supervisión regulatoria y empleo multas civiles de la magnitud de los ojos. Otras jurisdicciones están empezando a seguir su ejemplo.

En paralelo, los reguladores de otras disciplinas están empezando a dar vueltas. Los reguladores antimonopolio están revisando de nuevo los monopolios de la información y el uso del poder de mercado por parte de las grandes tecnologías para restringir la competencia.

En Australia, la ACCC ha pedido una nueva autoridad reguladora para monitorear e investigar el efecto de los algoritmos en el ranking de noticias y contenido periodístico.

El informe del Comité Selecto de Comunicaciones del Reino Unido sobre Regulación en un mundo digital ha recomienda una nueva autoridad digital para supervisar la regulación "fragmentada" del entorno digital en torno a diez principios regulatorios, señalando que "la regulación del elfo de las plataformas en línea está claramente fallando". Los reguladores de derechos humanos están examinando el papel de los algoritmos para crear y consolidar la discriminación.

Datos significa dinero

La gran tecnología no quiere ser regulada. No quiere que su capacidad ilimitada para recopilar información personal sea restringida o que las protecciones de tipo GDPR se conviertan en la norma global. La información personal es la materia prima de los algoritmos que le permiten monetizar nuestra atención.

Para una industria que se enorgullece de ser "disruptiva", la mayor ansiedad de la gran tecnología es evitar el entorno regulatorio más estricto para evitar que se interrumpa a sí misma. La ética de los datos es uno de los medios que ha desarrollado para combatir la regulación. Lo hace apropiándose de las virtudes asociadas con la ética, pero vaciándolas de contenido o consecuencia.

Tomar Principios de Google para la IA.. (AI es inteligencia artificial). Estos son:

  • ser socialmente beneficioso
  • Evitar crear o reforzar sesgos injustos.
  • ser construido y probado para la seguridad
  • ser responsable ante las personas
  • Incorporar principios de diseño de privacidad.
  • Mantener altos estándares de excelencia científica.
  • Estar disponible para usos que estén de acuerdo con estos principios.

Estos "principios" son sorprendentemente similares a las buenas homilías publicadas en Instagram que nos impulsan a "ser buenos el uno con el otro" o no a "dejar que el sol se ponga sobre nuestra ira", y son casi tan útiles.

¿En serio? Captura de pantalla capturada en marzo 28 2019

Poner a prueba

Probemos uno de los principios de Google, “rendir cuentas a las personas”.

Hay varias capas de ambigüedad aquí. ¿Significa que los algoritmos de inteligencia artificial de Google deben ser responsables ante "personas" en general, las "personas" de Google o las "personas" de otra persona, como un regulador independiente?

Si es lo último, ¿suministrará Google el algoritmo para su análisis, corregirá cualquier error y pagará una compensación por el daño causado?

Si los algoritmos de inteligencia artificial de Google concluyen erróneamente que soy un terrorista y luego paso esta información a las agencias de seguridad nacional que usan la información para arrestarme, mantenerme incomunicado e interrogarme, ¿será responsable Google por su negligencia o por contribuir a mi falso encarcelamiento? ¿Cómo será responsable? Si no estoy conforme con la versión de responsabilidad de Google, ¿a quién apelo para que se haga justicia?

La ética útil implica la rendición de cuentas.

La ética se ocupa de los principios morales que afectan la forma en que las personas toman decisiones y cómo llevan sus vidas.

La ética ha sido estudiada y debatida por eones. Dentro de las tradiciones occidentales, la ética se remonta a Sócrates. Incluyen posiciones filosóficas como la ética deontológica (basada en el deber), el consecuencialismo, el utilitarismo y el existencialismo, por nombrar solo algunos. Como era de esperar, ninguno de estos produce las mismas respuestas a las preguntas sobre lo que un individuo debe hacer en circunstancias particulares.

La "ética aplicada" tiene como objetivo hacer que los principios de la ética se apliquen a situaciones de la vida real. Hay numerosos ejemplos.

La ética del sector público se rige por la ley. Hay consecuencias para quienes las incumplen, incluidas las medidas disciplinarias, la terminación del empleo y, a veces, las sanciones penales. Para convertirme en abogado, tuve que proporcionar evidencia ante un tribunal de que soy una "persona idónea y adecuada". Para continuar con la práctica, debo cumplir con los requisitos detallados establecidos en las Reglas de conducta de los abogados australianos. Si los rompo, hay consecuencias.

Las características de la ética aplicada son que son específicas, hay bucles de retroalimentación, se dispone de orientación, están integrados en la cultura organizacional y profesional, hay una supervisión adecuada, hay consecuencias cuando se infringen y existen mecanismos de aplicación independientes y recursos reales. . Son parte de un aparato regulador y no solo declaraciones de "sentirse bien".

Los principios de ética de datos de alto nivel de Feelgood no son adecuados para el propósito de regular las grandes tecnologías. La ética aplicada puede tener un papel que desempeñar, pero debido a que son específicas de la ocupación o la disciplina, no se puede confiar en ellos para hacer todo, o incluso la mayor parte del trabajo pesado.

Los daños vinculados a la gran tecnología solo pueden abordarse mediante una regulación adecuada.La conversación

Sobre el Autor

David Watts, profesor de Derecho y Política de la Información, La Trobe University

Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.

Libros relacionados:

{amazonWS: searchindex = Libros; palabras clave = monopolios digitales; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

seguir a InnerSelf en

facebook-icontwitter-iconrss-icon

Obtenga lo último por correo electrónico

{Off} = emailcloak

MAS LEIDO

DE LOS EDITORES

El día del juicio final ha llegado para el Partido Republicano
by Robert Jennings, InnerSelf.com
El partido republicano ya no es un partido político pro estadounidense. Es un partido pseudopolítico ilegítimo lleno de radicales y reaccionarios cuyo objetivo declarado es interrumpir, desestabilizar y ...
Por qué Donald Trump podría ser el mayor perdedor de la historia
by Robert Jennings, InnerSelf.com
Actualizado el 2 de julio de 20020: toda esta pandemia de coronavirus está costando una fortuna, tal vez 2 o 3 o 4 fortunas, todas de tamaño desconocido. Ah, sí, y cientos de miles, tal vez un millón, de personas morirán ...
Ojos azules vs ojos marrones: cómo se enseña el racismo
by Marie T. Russell, InnerSelf
En este episodio de Oprah Show de 1992, la galardonada activista y educadora antirracista Jane Elliott enseñó a la audiencia una dura lección sobre el racismo al demostrar cuán fácil es aprender los prejuicios.
Un cambio vendrá...
by Marie T. Russell, InnerSelf
(30 de mayo de 2020) Mientras veo las noticias sobre los eventos en Filadelfia y otras ciudades del país, me duele el corazón por lo que está ocurriendo. Sé que esto es parte del gran cambio que está tomando ...
Una canción puede elevar el corazón y el alma
by Marie T. Russell, InnerSelf
Tengo varias formas que uso para despejar la oscuridad de mi mente cuando encuentro que se ha infiltrado. Una es la jardinería o pasar tiempo en la naturaleza. El otro es el silencio. Otra forma es leer. Y uno que ...