¿QUIÉN PATRULLA LA WEB?

¿Los sitios web de videos deben revisar su contenido antes de publicarlos?

¿Dónde se sitúa la línea fronteriza antre el discurso de odio y la incitación a la violencia? ¿La pornografía creada por inteligencia artificial es una invasión de la privacidad? Todas estas son preguntas difíciles, pero detrás de llas está una más complicada: ¿Quién debería proporcionar las respuestas?

En internet, tales dilemas están siendo resueltos cada vez con mayor frecuencia por empresas privadas. Así, las redes sociales están decidiendo qué tipo de desinformación prohibir, las empresas de alojamiento web están cerrando sitiso que consideran peligrosos o nocivos, y las firmas financieras han comenzado a estar más activas en restringir lo que el público puede comprar.

Estas empresas están desempeñando una labor de vigilantes digitales, pero se está haciendo evidente que no debería ser parte de su trabajo. Las disyuntivas en torno a lo que se puede decir, hacer o comprar online necesita, con urgencia, aportación de presentantes políticos elegidos por votación.

Pero hasta ahora, los gobiernos han tenido un mejor papel quejándose que asumiendo responsabilidades.

Para contar con un ejemplo de cómo las empresas privadas se han convertido en la "policía digital", tomemos el caso de las reglas sobre pornografía en Internet, introducidas por Mastercard el pasado 15 de octubre. En un intento por eliminar material ilegal, la compañía está exigiendo que los sitios de contenido pornográfico adopten medidas que vayan más allá de lo que manda la ley, incluyendo la revisión de las grabaciones antes de publicarlas y la verificación de las entidades de quienes suben o aparecen en ellas.

Los sitios que consideren que este tipo de reglas es muy oneroso, no tienen la obligación de trabajr con mastercad. Pero Visa también está tomado medidas severas, y ambas compañías manejan el 90% de pagos con tarjeta en el mundo, excluyendo China, lo que significa que se están convirtiendo en las reguladoras de facto del sector.

Los liberales deben halalr un equilibrio. En general, las empresas privadas son libres de tratar con quienes les plazca. Al igual que Facebook puede vetar de su red a gente como Donald Trump y Amazon Web Services puede rechazar el alojamiento de apps de extrema derecha como Parler, Mastercad es libre de vetar ciertos sitios porno.

Pero el poder de mercado de estas compañías y de sus rivales, que suelen tener posturas afines, significa que sin su aprobación y respaldo, hay personas y negocios que podrían enfrentar exclusión, incluso sin haber violado la ley. En casos extremos, las vigilantes privadas errarán por ser cautelosas. ¿Qué incentivo tendría una red social para permitir mensajes que no necesariamente califican como discurso de odio, o un banco para tratar con un rubro legalmente complicado como el cannabis?

El mejor remedio sería una mayor competencia, de modo que si Visa y Matercard prohíben un sitio porno o Facebook veta a una figura controversial, los consumidores tengan alternativas. Pero eso no ocurrirá pronto: los efectos de red son poderosos en las redes sociales y tributadores en el negoco de pagos.

Entretando, las empresas privadas que actúen como vigilantes deben ser transparentes con sus reglas, cómo las elaboran y qué compensación ofrecen. bajo la presión pública, las redes sociales han tomado medidas ene sa dirección. Facebook encarga las decisiones difíciles a su "junta de supervisión" y la semana pasada, Twitter publicó un conjunto de principios para regular los mensajes online.

Las entidades financieras son más opacas. Mastercard explicó sus nuevas reglas en su blog. Cuando OnlyFans, sitio conocido por su contenido sexual explícito, culpó a bancos por forzar un cambio en su política de contenidos a inicios de año, los bancos en cuestión no difundieron ningún comentario.

Sin embargo, la mayor resposabilidad recae en los gobiernos. Están en lo correcto al ser cautelosos con limitar la libre expresión, pues en buena parte del mundo hay lpideres demasiado dispuestos a amordazar el debate online. pero diseñar cuidadosamente un método para determinar los límites de la libre expresión y construir salvaguardas ayudaría a clasificar sí los déspotas se han pasado de la raya.

En mcuhas áreas, el poder de vigilancia de las empresas privadas es en realidad una consecuencia de la inacción gubernamental.

Mantener fuera de la web el "porno vengativo" o limitar a los niños el acceso a contenido viral son áreas donde los gobiernos podrían actuar si lo quisieran. Pero en lugar de eso, el enfoque de muchos ha sido no hacer nada y luego fingir sorpresa cuando empresas maximizadoras de ganancias conciben respuestas que podrían no ser en beneficio de la sociedad.

Los políticos tienen razón al alertar de que algunas empresas privadas tienen demasiado poder online. Pero esas empresas han llegado a tener demasiada responsabilidad debido en parte a que los propios políticos han abdicado de ese poder.

Publicado en Gestión, 19 de octubre del 2021.