META debe dejar de beneficiarse del odio

 META debe dejar de beneficiarse del odio

7amleh, 22 de noviembre de 2023, 

7amleh puso a prueba la capacidad de la política de moderación de contenidos de Meta (dueña de marcas como Facebook y otras) para prohibir la incitación al odio en los anuncios de pago. Nuestra investigación reveló una realidad preocupante: Meta obtiene beneficios económicos de la difusión de contenidos nocivos en sus plataformas.

El Centro Árabe para el Avance de los Medios Sociales puso a prueba la capacidad de la política de moderación de contenidos de Meta para prohibir la incitación al odio en los anuncios de pago. Nuestra investigación reveló una realidad preocupante: Meta obtiene beneficios económicos de la difusión de contenidos nocivos en sus plataformas. La investigación se inició al descubrir que Facebook publicaba anuncios en los que se pedía el asesinato de personas y la expulsión forzosa de palestinos de la Cisjordania ocupada a Jordania.

La investigación de 7amleh puso de manifiesto la rápida aprobación de 19 anuncios en los que se incitaba al odio en hebreo contra árabes y palestinos en el contexto de la guerra de Gaza. Esto arroja luz sobre el fracaso de los mecanismos de aplicación de "revisión automatizada y manual" de Meta destinados a prohibir el contenido publicitario incendiario en sus plataformas, y los beneficios financieros inadvertidos de la empresa por la propagación de esta retórica.

La investigación de 7amleh puso a prueba los clasificadores hostiles de Meta en hebreo y sus mecanismos automatizados de aplicación de las normas publicitarias. Realizó una campaña selectiva de 19 anuncios, que contenían incitación al odio y a la violencia en hebreo, en toda la plataforma de Meta.  Los anuncios aprobados incluían llamamientos a "aniquilar Gaza, sus mujeres, niños y ancianos" y otras frases incendiarias que pedían explícitamente matar palestinos, quemar toda Gaza, deportar a la gente a otros países y llamamientos a llevar a cabo una segunda Nakba.

Para esta investigación, 7amleh también probó los mismos anuncios en árabe, y al igual que con el hebreo, todos los anuncios en árabe también fueron aprobados. Esto sigue a una preocupante evolución de Facebook que permite campañas publicitarias dirigidas a palestinos en su lengua materna. Por ejemplo, un perfil de Facebook llamado "Migrate Now" ha empezado recientemente a publicar anuncios pidiendo a los "árabes de Judea y Samaria" que emigren a Jordania "antes de que sea demasiado tarde". Este lenguaje codificado es un uso obvio de la intimidación, y no tiene cabida en las plataformas de Meta. Además, Meta no debería beneficiarse de grupos que publican este tipo de anuncios llenos de odio.

Tras recibir la aprobación para todos los anuncios, 7amleh compartió la documentación de la investigación con The Intercept. Sin embargo, poco después de que los periodistas de The Intercept se pusieran en contacto con Meta en busca de comentarios, 7amleh recibió la notificación de que los anuncios habían sido rechazados con carácter retroactivo. Aunque 7amleh espera que Meta se tome este asunto en serio, es importante señalar que en el pasado el gigante de las redes sociales tiene un historial de disculpas por problemas individualizados sin tomar medidas serias para crear soluciones sistémicas.

La investigación pretendía evaluar la capacidad de la plataforma para identificar y prevenir la difusión de contenidos nocivos. La alarmante rapidez de la aprobación, en el plazo de una hora, y la publicación programada de estos anuncios pusieron de manifiesto vulnerabilidades significativas. Es importante señalar que, dado el carácter experimental de la investigación, 7amleh nunca tuvo intención de publicar realmente los anuncios, y la publicación se interrumpió antes de ponerse en marcha.

Los resultados subrayan la urgencia de que Meta subsane estas deficiencias, no sólo en sus clasificadores, sino también en sus protocolos de moderación de contenidos. Durante años, las organizaciones de la sociedad civil palestina han expresado su preocupación por la escalada de violaciones de los derechos digitales de los palestinos en las plataformas de Meta. El año pasado, el informe independiente de Business for Social Responsibility (BSR) sobre diligencia debida en materia de derechos humanos subrayó problemas relacionados con la falta de clasificadores en hebreo para contrarrestar el discurso de odio y la incitación. La proliferación de discursos nocivos sigue socavando el firme compromiso de Meta de salvaguardar la seguridad y la dignidad de todos los usuarios de sus plataformas. La admisión de Meta sobre la ineficacia de los clasificadores de discurso hostil en hebreo debido a la insuficiencia de datos exacerba estas preocupaciones. Sin embargo, en la actualización oficial más reciente de la empresa en materia de derechos humanos, Meta afirmó que ha puesto en marcha un clasificador de hebreo que funciona, por lo que suponemos que el clasificador está operativo en todas las plataformas. Este problema persistente pone de relieve la necesidad inmediata de que Meta subsane las deficiencias en la moderación de contenidos para proteger a las comunidades palestinas de nuevos perjuicios.

7amleh pide a Meta que evite una mayor explotación de sus plataformas debido a la difusión de discursos de odio e incitación a la violencia. Esto debe hacerse para que Meta cumpla con su responsabilidad de salvaguardar a las comunidades de cualquier daño. La conclusión de que Meta obtiene beneficios económicos de contenidos violentos debe abordarse con la máxima seriedad. Esto va de la mano con el llamamiento a Meta para que "deje de deshumanizar a los palestinos y de silenciar sus voces". La empresa tiene la responsabilidad ética y legal de impedir que el discurso de odio y la incitación circulen a través de sus plataformas, ya que persiste el riesgo de que la incitación en línea se traduzca en daños en el mundo real que afecten a personas y comunidades palestinas.

...