Por qué es un error celebrar la represión en los sitios web de odio

Por qué es un error celebrar la represión en los sitios web de odio Las empresas privadas controlan el odio en línea sin supervisión ni regulación independientes, lo que tiene serias implicaciones y plantea riesgos para los derechos humanos y las libertades fundamentales. (Shutterstock)

La marcha a la luz de las antorchas de los supremacistas blancos armados recientemente en Charlottesville, Virginia, continúa generando un debate sobre cómo deberían regularse los grupos de odio. En medio de la creciente presión pública que siguió a la marcha, las compañías de internet se apresuraron a retirar de sus plataformas los sitios web que contenían discursos violentos de odio.

Ve papi Terminó sus servicios de dominio al sitio web neonazi The Daily Stormer, al igual que Google. Cloudflare, una empresa que protege los sitios web de ataques en línea, también prohibido La página web de odio desde su plataforma. Rusia ordenó el sitio prohibido De estar alojado en el país.

Mi investigación y mi libro Chokepoints: Regulación Privada Global en Internet demuestre que muchas empresas de Internet ya eliminan el contenido y prohíben a los usuarios "voluntariamente", es decir, en ausencia de legislación o procesos judiciales. Los principales intermediarios, incluidos Google, PayPal, GoDaddy, Twitter y Facebook, controlan voluntariamente sus plataformas en busca de contenido de abuso sexual infantil, extremismo y el tráfico ilícito de productos falsificados.

Muchas personas aplauden comprensiblemente estos esfuerzos para eliminar el discurso de odio y otros contenidos objetables. Sin embargo, los esfuerzos de las compañías de Internet como reguladores de facto del discurso plantean serias preguntas: ¿Cómo se debe regular el contenido en línea? ¿Por quién?

No apoyo a los supremacistas blancos y no estoy argumentando en contra de la vigilancia de tal discurso. Más bien, estoy diciendo que debemos considerar seriamente cómo regular el contenido en línea, ya que el próximo caso puede no ser tan claro.

Hay problemas importantes al confiar en compañías poderosas para vigilar Internet porque sus prácticas de aplicación son inquietantemente opacas y propensas a la interpretación arbitraria.

Precedente inquietante

En un aleccionador contraste con el aplauso de las compañías de internet por su oposición pública al Daily Stormer, el director general de Cloudflare, Matthew Prince, ofreció una perspectiva cautelosa y matizada, advirtiendo que la retirada de los servicios de los grupos de odio en respuesta a la presión pública establece un precedente preocupante en la vigilancia policial en línea. .

En un entrada en el blog Al explicar las acciones de Cloudflare contra el Daily Stormer, Prince argumentó que la compañía considera que el debido proceso es un "principio más importante" que la libertad de expresión. El debido proceso, dijo, significa que "debería poder conocer las reglas que seguirá un sistema si participa en ese sistema". Esta declaración captura acertadamente los problemas inherentes a los intermediarios que trabajan como reguladores de facto del contenido y el comportamiento en línea.

A principios de este año, Empleados de shopify y cientos de miles de personas instó y solicitado La plataforma de comercio en línea para dejar de alojar la tienda de Internet de la extrema derecha Breitbart Media. Presidente ejecutivo reincorporado Stephen Bannon llamadas Breitbart "la plataforma para el derecho superior". El llamado "derecho superior", un término popularizado por Richard Bertrand Spencer - abarca una mezcla de ideologías conservadoras blancas supremacistas, separatistas, neonazis, fascistas, racistas, antisemitas, islamófobas y populistas.

El CEO de Shopify, Tobias Lütke, dijo que estaba defendiendo la libertad de expresión mientras la compañía de Ottawa continuaba hospedando la tienda en línea de Breitbart bajo la amenaza de empleados renunciando. Después de público presión y una campaña de base apodada #DeleteShopify llevó a un escrutinio que reveló más negocio cuestionable, Shopify era forzado adoptar un "Política de uso aceptable".

Los ejemplos contrastantes de The Daily Stormer y su eliminación por parte de las compañías de Internet, y el constante apoyo de Shopify a Breitbart, demuestran los extremos de un dilema que solo promete intensificarse.

Políticas arbitrarias, regulación.

Los intermediarios de Internet tienen el potencial de ser poderosos reguladores en una amplia variedad de temas porque pueden actuar con rapidez y sin órdenes judiciales. Es importante destacar que tienen libertad para censurar cualquier contenido o prohibir a los usuarios en virtud de sus acuerdos de términos de servicio.

PayPal se reserva el derecho de rescindir sus servicios a los usuarios "por cualquier motivo y en cualquier momento, "Lenguaje que se refleja en la mayoría de los acuerdos de servicios de los intermediarios. La capacidad de regulación arbitraria se integra así en las reglas internas de los intermediarios.

Prince advirtió que la acción de Cloudflare contra el Daily Stormer sienta un precedente para que los intermediarios realicen un discurso policial sin órdenes judiciales que lo requieran.

Estos intermediarios a menudo actúan a instancias de los gobiernos que prefieren que las empresas sean la cara pública (pero en gran medida no responsable) de la regulación de Internet. Pero esas firmas generalmente están mal equipadas para distinguir la legalidad de la ilegalidad, causando derribos injustos y atacando erróneamente el comportamiento legal.

Igualmente problemático: los procesos de cumplimiento de los intermediarios a menudo son opacos, ya que sus moderadores de contenido interpretan arbitrariamente sus complejas reglas internas que cambian rápidamente. Estos problemas se ven agravados por el uso cada vez mayor de los intermediarios de herramientas automatizadas para identificar y eliminar contenido problemático en sus plataformas.

También existe la preocupación de la llamada "amenaza de la misión" cuando las normas que se promulgaron por primera vez contra el abuso infantil o el terrorismo, notables catalizadores para la aplicación de medidas, se aplican posteriormente a otros temas claramente menos dañinos, como la descarga no autorizada de contenido con derechos de autor.

El futuro distópico está aquí

Los esfuerzos regulatorios comúnmente se expanden desde censurar el discurso de odio violento a otro discurso que puede ser considerado controvertido por algunos, como el de Black Lives Matter. Además, los gobiernos de todo el mundo presionan regularmente a los intermediarios para que censurar y rastrear Críticos y opositores políticos.

Cuando los intermediarios más importantes se convierten en reguladores directos responsables de vigilar el contenido policial en nombre de los gobiernos o en respuesta a protestas de alto perfil, su poder ya considerable aumenta. Las compañías de Internet con sede en EE. UU. Ya dominan muchos sectores de la industria, como la búsqueda, la publicidad, el registro de dominios, el pago y las redes sociales. Príncipe de Cloudflare con razón prevenido que al depender de unas "pocas redes gigantes", una "pequeña cantidad de empresas determinará en gran medida lo que puede y no puede estar en línea".

Este futuro distópico ya está aquí.

El derribo del Daily Stormer, sin duda, hace del mundo un lugar mejor. Pero, ¿queremos realmente que empresas como Facebook y Twitter decidan, de forma independiente, arbitraria y secreta, a qué contenido podemos acceder y compartir?

Dados estos problemas aparentemente intratables, ¿qué podemos hacer? Primero, debemos evitar gobernar sobre la base de protestas o presiones de los medios. En lugar, Necesitamos un conjunto claro de reglas. para permitir que los intermediarios respondan de manera coherente, transparente y con respeto al debido proceso, como lo recomendó Prince.

Los gobiernos deben aclarar la naturaleza y, lo que es más importante, las limitaciones de las responsabilidades reguladoras de los intermediarios. Por último, debemos dejar de gobernar en respuesta a crisis específicas, las llamadas "noticias falsas", el terrorismo y los grupos de odio, y pensar en forma crítica sobre cómo podemos y debemos gobernar Internet.La conversación

Sobre el Autor

Natasha Tusikov, Profesora Asistente, Criminología, Departamento de Ciencias Sociales, Universidad de York, Canadá

Este artículo se republica de La conversación bajo una licencia Creative Commons. Leer el articulo original.

Libros relacionados

{amazonWS: searchindex = Libros; palabras clave = discurso de odio; maxresults = 3}

enafarzh-CNzh-TWtlfrdehiiditjamsptrues

seguir a InnerSelf en

facebook-icontwitter-iconrss-icon

Obtenga lo último por correo electrónico

{Off} = emailcloak