¿Las celebridades están por encima de las reglas? En Facebook sí

La compañía creó con los años filtros para evitar eliminar contenido de cuentas pertenecientes a individuos de alto perfil que pudiera crear escándalos o alejar a estos usuarios de la red social

Eduardo Rivas

De acuerdo con documentos internos de Facebook, la compañía permitió que diferentes usuarios de alto perfil de la red social burlaran las reglas comunitarias y publicaran cualquier tipo de contenido aún si estaba explícitamente prohibido, todo esto a pesar de que la compañía afirma que todos sus usuarios son tratados igualitariamente.

La información provino de documentos internos de Facebook que han sido publicados por el diario estadounidense The Wall Street Journal (WSJ) en las últimas semanas en lo que se ha nombrado “Facebook Files” y se refiere al hallazgo de un programa especial de la plataforma denominado “la lista blanca”.

Este programa determina que ciertas cuentas de personajes famosos como atletas, artistas, políticos y otros puedan quedar exentas de las reglas de la comunidad de la red social por lo cual pueden publicar prácticamente cualquier contenido que deseen sin que haya repercusiones.

También te puede interesar: Usuarios de Facebook e Instagram se sienten insatisfechos: Evercore

El cambio en las normas 

Esta iniciativa, sin embargo, dataría de los inicios de la red social en los que las reglas de la comunidad eran más laxas, los desnudos y el acoso eran básicamente lo único que estaba prohibido, pero a medida que la red social se hizo más y más popular y aumentó su tamaño y su base de usuarios también lo hicieron las reglas que se implementaron para mantener la paz y se establecieron las normas acerca de qué tipo de contenido podía ser eliminado de la plataforma, así como qué hacer con las cuentas que violaran las normas que llevaban desde la suspensión hasta la eliminación.

Al principio el enforzamiento de estas normas fue responsabilidad de moderadores humanos creando equipos dentro de la compañía, sin embargo esto rápidamente vio la necesidad de incorporar tecnología de Inteligencia Artificial la cual, es importante aclarar, no remplazó a los trabajadores humanos pero sí formó una parte importante del sistema de moderación; ante esto las fallas del sistema son inevitables ya sea por el elemento automatizado o por el factor humano.

Un ejemplo que citan se trata del año 2014 en el que a la cantante Rihanna le fue desactivada temporalmente su cuenta de Instagram luego de que subiera una fotografía suya parcialmente desnuda que además figuró como la portada de la revista francesa de entretenimiento para adultos Lui.

También te puede interesar: Instagram corrige: póster de Madres Paralelas no violó normas sobre desnudos

El tema generó polémica y tanto medios de comunicación como usuarios en redes sociales condenaron a la plataforma, la cantante respondió abandonando la red durante seis meses y la compañía supo que tenía un problema entre manos por lo que la respuesta fue idear una manera de evitar que personalidades importantes fueran blanco de este tipo de medidas lo que originó un programa al que nombraron “blindaje” más tarde renombrado “verificación cruzada”, que evitaba que cuentas de alto perfil fueran sancionadas de manera inmediata. La lógica detrás de esto era simple: sancionar a una persona común y corriente no es un problema pero sancionar a un famoso podía llevar a mala publicidad.

Esto conllevó un nuevo problema, pues cualquier empleado de Facebook podía incorporar a cualquier persona a este filtro por lo cual éste terminó creciendo exponencialmente y el sistema colapsó, había tantas cuentas en el sistema y tantas publicaciones hechas por esas cuentas que fue imposible revisar todas y cada una de ellas. 

No solo eso, cuando se llevaban a cabo los dobles chequeos aún se cometían errores a una tasa del 10% según las estimaciones de los documentos.

Ante esto la compañía tomó una decisión mucho más drástica, si no había forma de asegurar que no podían dejar de cometer errores y sancionar cuentas que pudieran traer escándalos, simplemente dejarían de sancionar todas esas cuentas, creando así la “lista blanca” que incluyó a todo tipo de personalidades y que en algún punto constaba de al menos 5.8 millones de cuentas ya sea en el programa de Verificación cruzada o directamente en la “lista blanca”.

Uno de los problemas más graves con esto fue que ya que el único requerimiento para formar parte de estos programas era tener determinado número de seguidores en la red social o cierta presencia pública que pudiera hacer que no quisieran tomar el riesgo de sancionar a la persona, personalidades que difundían desinformación, teorías de conspiración o incluso dictadores podían terminar en la lista.

También te puede interesar: Legisladores estadounidenses exigen aclarar efectos en salud mental de Instagram en adolescentes

Los periodistas del WSJ señalaron: “Gracias a esta protección, los usuarios poderosos podían publicar cosas como discursos de odio o incitaciones a la violencia, y se mantendría así”.

El caso de Neymar 

Pero, uno de los puntos álgidos llegó en 2019 de la mano del afamado futbolista Neymar quien, con más de 100 millones de seguidores tanto en Facebook como Instagram, entra en el top 20 de las cuentas más grandes del mundo, fue denunciado por violación por la modelo Najila Trindade, ante lo cual, el futbolista se defendió con un video difundido en las plataformas.

Durante la transmisión en vivo el futbolista revisó mensajes que había compartido con Trindade en el que mostró fotografías que la mujer le había enviado en las que aparecía desnuda lo cual entra directamente en contra de los lineamientos de Facebook bajo la categorización de “desnudos no consensuales” o lo que se conoce comúnmente como “porno de venganza”, la sanción para esto es la remoción inmediata del contenido así como la eliminación de la cuenta, sin embargo el futbolista formaba parte del programa de “verificación cruzada”.

Debido a esto, Facebook demoró las acciones en contra de Neymar que generaron un documento llamado “Investigación de Incidentes de Prevención de Errores” en el que se detalla que un empleado de la red social trató de borrar el contenido el mismo sábado en que fue subido a la plataforma pero el sistema de Facebook no lo permitió, como resultado, el video tuvo más de 50 millones de visualizaciones incluyendo el nombre y las fotografías de la mujer quien recibió una gran cantidad de acoso incluyendo más de 3,500 cuentas que la suplantaban y que la plataforma eliminó. En cuanto a Neymar, la plataforma hizo poco para sancionarlo.

También te puede interesar: Kim Kardashian, ¿otra influencer que alimenta la especulación con tokens?

Las contradicciones en la plataforma 

Otro aspecto a destacar es que mientras la verificación cruzada decide si borra un contenido o no el algoritmo de Facebook sigue promocionándolo y poniéndolo al alcance de más y más personas.

De acuerdo a los documentos, Facebook hizo cálculos acerca del alcance de estos contenidos dañinos, contenidos que de no ser publicados por cuentas de alto perfil habrían sido eliminados. El resultado arrojó que el total de contenidos censurables publicados por todas las cuentas en los programas de verificación cruzada o la lista blanca fueron vistos 16,000 millones de veces.

Esto no significa que los contenidos hayan sido vistos por 16,000 millones de personas sino que, por ejemplo, un contenido podría tener 8,000 visitas y otro 3,500, lo cual suma 11,500 visitas pero es posible que una o más personas hayan visto ambos contenidos.

Sin embargo, públicamente, la compañía aseguró en reiteradas ocasiones que todas las personas que usaban la plataforma estaban sujetas a las mismas medidas y debían obedecer a los lineamientos de la red social, sin excepciones. El propio CEO, Mark Zuckerberg, llegó a declarar que “si alguien las viola (las políticas), ya sea que usted sea un funcionario gubernamental de alto rango como el presidente o cualquier persona en nuestra plataforma, tenemos que tomar medidas. Haremos cumplir, no importa quién sea usted”.

Al respecto, los periodistas del WSJ sentenciaron: “Facebook ha hablado sobre la importancia de asegurarse de que no están reforzando las estructuras de poder existentes. Permitir que alguien que es un pez gordo diga cosas en tu plataforma que literalmente no dejarías que dijera un pequeño, obviamente es inherente”.

En uno de los documentos a los que se hace referencia se señala que llevaba la leyenda “AC Priv” que hace referencia al privilegio abogado-cliente en inglés, hablando de las iniciativas de “verificación cruzada” y “lista blanca”, en ellas se describen dos aspectos importantes, primero que Facebook sabía lo que estaba haciendo con estos programas. “Estamos eximiendo a ciertas personas en asuntos de nuestras políticas y estándares. En varias etapas”. Y segundo, que la misma compañía pensaba que no era correcto: “esto socava nuestros esfuerzos de justicia y legitimidad, crea riesgos legales y de cumplimiento para la empresa”, y ante la discusión que esto generó dentro de la empresa se llevó a cabo una auditoría de los programas.

También te puede interesar: Facebook reporta mayor incremento de ingresos desde 2016

Los hallazgos de esta auditoría que tuvo lugar en 2019 mostraron que el programa estaba fuera de control, “ni siquiera estaban seguros de poder encontrar a todas las personas que habían sido exentas de las reglas de Facebook, porque algunas de ellas simplemente habían sido codificadas directamente en los sistemas de Facebook”.

Estos documentos incluso señalan que ante esta situación, Facebook tenía una responsabilidad legal con las personas que publicaban este tipo de contenidos, generaba brechas de confianza con los demás usuarios: “no son defendibles públicamente” y literalmente estaban mintiendo pues no estaban haciendo lo que decían públicamente que hacían.

Finalmente, un documento fechado en marzo del presente año señala que la compañía está tomando cartas en el asunto, pues indica que nuevas adiciones a los programas fueron suspendidas indefinidamente, en respuesta al WSJ, un vocero de Facebook de nombre Andy Stone comentó: “Las críticas a nuestra ejecución son justas, pero el sistema Crosscheck fue diseñado por una razón importante, para crear un paso adicional para que podamos hacer cumplir con precisión las políticas sobre el contenido que podrían requerir más comprensión (…) Facebook mismo identificó los problemas con Crosscheck y ha ido trabajando para abordarlos. Hemos realizado inversiones, creado un equipo dedicado y rediseñado Crosscheck para mejorar el funcionamiento del sistema”