Las redes sociales como herramienta de odio

La masacre ocurrida en Orlando (EE. UU.) conmovió al mundo porque en un solo evento se congregaron el odio y las libertades. Las reacciones por lo ocurrido reunieron todos los matices, y las redes sociales se convirtieron, acaso, en un frío espejo de lo que ocurre en las calles del mundo. 

Aunque es cierto que la gran mayoría de las opiniones del mundo mostraron  solidaridad con las familias de las víctimas y repudiaron con fuerza este acto, también hubo espacio para burlas, comentarios incendiarios y publicaciones que atizaron el odio. Y, lo peor, no muy lejos de nuestro entorno.

La senadora Claudia López recibió ataques a través de Twitter después de publicar trinos en solidaridad con lo ocurrido en Orlando. Ocurrió lo mismo con las ministras Gina Parody y María Cecilia Álvarez. Las tres tuvieron que soportar mensajes bajos, amenazantes y denigrantes ante la mirada atónita de un país que busca combatir de algún modo la intolerancia.

Y es aquí donde Facebook y Twitter, como canales de comunicación, entran en la escena. Bastan tres minutos para causar daño. Un personaje oscuro abre una cuenta en Twitter, publica un trino ofensivo y cambia la agenda comunicativa de un país. En Facebook el proceso es igual de rápido, pero el impacto es mucho mayor por el número de usuarios que pueden ser alcanzados. 

Esfuerzo insuficiente

Cada tanto, Facebook, Twitter y el mismo Google anuncian nuevas estrategias para combatir estos mensajes de odio que propagan por sus redes y pueden causar tanto daño. Pero el esfuerzo sigue siendo insuficiente. “Atizar el odio en redes sociales es tan fácil como comprar un arma en Estados Unidos, y las autoridades no parecen dimensionar el alcance”, explica la comunicadora Ximena Piñeros.

(Podría leer: ¿Facebook manipula y censura lo que usted ve cada día?) 

Desde el punto de vista tecnológico, las plataformas ya prueban modelos sofisticados de inteligencia artificial, pero no pueden prevenir que un delincuente viralice una publicación hostil. “Lo paradójico es que las redes sociales pueden predecir qué compran los usuarios, pero no pueden ayudar a combatir la violencia”, señala Piñeros.

La defensa de las plataformas ha sido la misma en la última década, después de su irrupción. “Las plataformas son neutras, son los usuarios quienes las usan para bien o para mal”. Sin embargo, desde legisladores europeos hasta reputados analistas insisten en que las plataformas deben hacer algo para que los mensajes de odio no se propaguen con tanta facilidad.

Recientemente, Twitter y Facebook anunciaron que después de detectarlos, vetarán los mensajes que inciten al odio. Las redes sociales, junto a Microsoft y Google, firmaron un código de conducta con la Unión Europea para combatir la radicalización en la red. Pero los resultados no han sido los esperados.

De acuerdo con lo que informó el periódico español El País, el proceso funcionará a partir de un sistema de notificaciones en el que cualquier usuario puede advertir sobre este tipo de contenidos.

Estudio revelador

Un estudio realizado por la organización SOS Racismo y de SOS Homofobia entre el 31 de marzo y el 10 de mayo identificó “586 mensajes racistas, antisemitas, negacionistas, homófobos o de apología del terrorismo o de crímenes contra la humanidad”, indicaron las tres entidades en un comunicado. “De esos 586, sólo el 4 % fue suprimido de Twitter, el 7 % de YouTube y el 34 % de Facebook”, precisan.

(Le podría interesar: Preocupantes sitios en Facebook reflejan racismo y machismo en la universidad) 

Twitter es el que menos prisa se dio, pues sólo borró ocho de los 205 mensajes de ese tipo publicados por sus usuarios. YouTube suprimió sólo 16 de un total de 225, “un resultado (...) que demuestra el desinterés del alojador de contenidos por la ley francesa y por sus propias condiciones generales”, agrega. Facebook suprimió un tercio de los mensajes cuestionados (53 de un total de 156), pero las asociaciones consideran que ese resultado también es “discutible, en la medida en que Facebook suele mostrarse más riguroso en la aplicación de las reglas sobre pornografía”, indican las tres entidades.

Ello se debe, según la UEJF, SOS Racismo y SOS Homofobia, a que Facebook muestra más preocupación por respetar “la visión estadounidense de la sociedad” que la legislación francesa.

Las plataformas “parecen más escandalizadas por la visión de un seno semidesnudo que por la incitación al odio contra una persona o un grupo de personas. Nuestra acción judicial pretende que se aplique un derecho al cual (las redes) se deben someter cabalmente”, declaró Dominique Sopo, presidente de SOS Racismo.