Guerra en Medio Oriente: un año de fuego digital

Por: Alejandro Moreno

Este texto apareció originalmente en la Red de Expertos en Democracia y Tecnología  de Linterna Verde lanzó en alianza con La Silla Vacía.

Durante un año, la guerra en Medio Oriente nos ha entrado por la mirada, que es otra forma de decir que nos ha entrado por las redes sociales. En este tiempo, las imágenes explícitas de la guerra, los discursos inflamables y la necesidad de conocer qué es lo verdadero en medio de tanto ruido y fuego, ha puesto a las plataformas como escenario en llamas y bombero.

Desde el 7 de octubre del año pasado, los ataques terroristas, y las acciones militares estuvieron acompañados de una ofensiva digital. Mientras los hombres de Hamás arremetían contra la población civil en Israel, más de 40.000 cuentas –en buena medida falsas– inundaron Facebook, Instagram, TikTok y X con publicaciones que justificaban los ataques, daban muestras de la supuesta compasión de ese grupo con los secuestrados israelíes y utilizaban imágenes de otros contextos para distorsionar los eventos.

Era la primera de una serie de operaciones que han competido por el control de la verdad y la influencia en línea. En contraste con el otro bando, en junio de este año, por ejemplo, se conoció que una red presente en Facebook, X y YouTube se dedicaba sistemáticamente a elogiar las acciones militares de Israel y a exigir la liberación de los rehenes. La operación se desplegó en la sección de comentarios de medios de comunicación y publicaciones de figuras políticas en Estados Unidos y Canadá, aunque no tuvieran nada que ver con la guerra. Detrás de la maniobra estaba STOIC, una agencia de márketing e inteligencia empresarial con sede en Tel Aviv, que habría utilizado los servicios de OpenAI –la compañía que desarrolla ChatGPT– para crear los contenidos a escala y la información de los perfiles falsos.

Aunque los avances de la inteligencia artificial postulaban a esta tecnología como una nueva arma de destrucción masiva para este conflicto, su impacto ha sido más episódico que generalizado. Como ha ocurrido también en las elecciones que este año se han celebrado alrededor del mundo, el daño no ha estado tanto en el contenido falso que se puede crear, sino en la posibilidad de afirmar que un contenido real es producto de la IA y minar así su credibilidad.

En todo caso, la ola de desinformación asociada al conflicto puso en apuros a los reguladores y supuso una primera prueba para la Ley de Servicios Digitales de la Unión Europea, una ambiciosa norma que, entre otras cosas, pretende frenar la desinformación en línea. Para atender la situación, la Comisión Europea, encargada de la aplicación de la norma, tuvo que contratar investigadores digitales externos, ante la falta de recursos técnicos para atender la emergencia.

El contenido explícito de la guerra, incluyendo imágenes de bombardeos y cuerpos heridos y mutilados bajo los escombros –sin olvidar los desgarradores videos de niños víctimas–, han sido combustible para los algoritmos de recomendación. Pocos días después de iniciado el conflicto, X ajustó sus políticas para capitalizar el contenido violento de la guerra con la idea de que los eventos fueran discutidos en tiempo real, a pesar de la sensibilidad de las imágenes.

A esta crisis se suman las dificultades para compartir información y expresarse sobre la guerra. Con las alarmas encendidas para evitar discursos a favor de grupos terroristas, así como discursos antisemitas o islamofóbicos, los sistemas de moderación de las plataformas han fallado muchas veces.

Durante los primeros días del conflicto, un periodista habló en Facebook sobre una entrevista que en el pasado le había hecho a Abdel Aziz Al Rantisi, cofundador de Hamás. En la publicación, el periodista describía su viaje a Gaza, su encuentro con los miembros de ese grupo y su conversación con el líder. Sin embargo, la mención a Hamás, le valió que la compañía eliminara el contenido por infringir, supuestamente, su política de personas y organizaciones peligrosas, que prohíbe apoyar a grupos terroristas.

Bajo esta norma, aplicada de manera equivocada, Meta también eliminó un artículo del Washington Post con una cronología del conflicto árabe-Israelí y testimonios de mujeres víctimas de violencia sexual por parte de Hamás, como se supo a través de tres casos revisados por el Consejo asesor de contenidos de la compañía.

En las aguas revueltas del discurso digital, las medidas de algunas plataformas han terminado por limitar injustificadamente mensajes de resistencia, tomados erróneamente como expresiones de odio.

Es el caso del lema “Desde el río hasta el mar, Palestina vencerá” (o bien, su versión en inglés: “To the river to the sea, Palestine will be free”). La consigna, utilizada en buena medida como apoyo a la autodeterminación del pueblo palestino, ha sido interpretada también como un llamado al exterminio judío. Además, al estar incluida en los Estatutos de Hamás de 2017, en algunos casos ha sido eliminada de las redes sociales de Meta por glorificar, en teoría, a este grupo terrorista.

Hace pocas semanas, el Consejo asesor de contenidos de Meta llamó la atención sobre la práctica de eliminar sistemáticamente contenidos que incluyen esta consigna, pues por sí misma no representa un daño o una infracción a las propias normas de la compañía. Además, el organismo le recomendó a Meta modificar sus políticas para que expresiones como “ los israelíes son criminales”, no se tomen como un señalamiento de odio basado en la nacionalidad, sino como una muestra de indignación contra los abusos y crímenes cometidos por un Estado.

El conflicto en Medio Oriente –devenido en terrorismo, represión y fuegos cruzados– convirtió el entorno digital en una extensión del campo de batalla. Entre tanto, la guerra se extiende con viralidad por otros países, a la vez que se aleja la posibilidad de que las redes nos ofrezcan un contexto real de lo que ocurre.

‍