El periodista Billy Perrigo de la sección de Tecnología de la revista Time ha publicado recientemente un artículo en el que revela que videos sobre crímenes de guerra en países como Siria, publicados en redes sociales como Facebook y YouTube estarían siendo eliminados por las compañías de tecnología norteamericanas.
Facebook confirmó que páginas al interior de su red social como el Ojo de Alhasakah fueron dadas de baja ya que presentaban lo que la red considera «contenido extremista». El contenido presentaba, entre otras cosas, un corto de un soldado de la oposición siria, grabado con su móvil, en el que se veía a tropas turcas caminando por una llanura del norte sirio, luego que la ciudad fuera abandonada por las tropas estadounidenses.
Después de ser notificado por la revista Time al respecto, Facebook restauró la página a principios de febrero del presente año, unas 12 semanas después, diciendo que el moderador había cometido un error. Algo similar ha sucedido con YouTube quien ha reconocido que desarrollaron un algoritmo que automáticamente detecta posibles contenidos propagandísticos de grupos terroristas.
«Los algoritmos se desarrollaron en gran medida en reacción al ISIS, que conmocionó al mundo en 2014 cuando comenzaron a compartir videos en línea de ejecuciones y batallas como propaganda. Debido a la forma muy real en que estos videos radicalizaron a los espectadores, la coalición liderada por Estados Unidos en Irak y Siria trabajó horas extras para reprimirlos, y alistó las redes sociales para ayudar. Rápidamente, las compañías descubrieron que había demasiado contenido para que incluso un gran equipo humano pudiera lidiar. (Más de 500 horas de video se suben a YouTube cada minuto). Entonces, desde 2017, hemos estado usando algoritmos para detectar automáticamente contenido extremista», afirmó un empleado de YouTube.
Lo cierto es que los algoritmos aún no logran reconocer con certeza si se trata de contenido extremista o una denuncia de violación de los Derechos Humanos en algún lugar del mundo. Incluso algunos videos pueden ser censurados por la denuncia de un numero significativo de usuarios que no quieren que se conozca una versión de la historia en cuestión, lo que constituiría una nueva forma de censura por los algoritmos o por las mayorías.
