La ministra del Interior, Amber Rudd, ha presentado la nueva herramienta del gobierno del Reino Unido para detectar y bloquear contenido extremista y yihadista en línea.

Financiado con fondos públicos

La nueva herramienta fue desarrollada por la empresa de inteligencia artificial 'ASI Data Science' con sede en Londres y fue financiada con 600,000 libras esterlinas de fondos públicos.

Abordar un problema creciente

La herramienta se desarrolló para abordar el creciente problema del contenido extremista / yihadista (por ejemplo, IS) que se publica en línea, y las técnicas de moderación actuales simplemente no pueden mantenerse al día con el trabajo de detectarlo y eliminarlo lo suficientemente rápido. Por ejemplo, además de las populares plataformas de video para publicar dicho contenido, el Ministerio del Interior estima que entre julio y finales de 2017 apareció material extremista en casi 150 servicios web que no se habían utilizado antes para este tipo de propaganda.

Se informa que un portavoz de ASI Data Science dijo que actualmente hay más de 100 videos diferentes (extremistas / IS) publicados en más de 400 plataformas diferentes en línea.

El peligro es, por supuesto, que el material pueda contribuir a la promoción de causas extremistas, la radicalización de las personas, el reclutamiento de nuevos miembros de grupos terroristas e inspirar a individuos/grupos a cometer sus propios actos de terror. Parte del contenido también puede ser muy perturbador, por ejemplo, si lo ven los niños en línea.

Cómo funciona la nueva herramienta

Se informa que la nueva herramienta tiene un elemento de inteligencia artificial que le ha permitido "entrenar" para seleccionar correctamente el contenido extremista. Por razones obvias, el funcionamiento exacto de la herramienta se mantiene en secreto, pero se entiende que la herramienta utiliza un algoritmo para detectar señales que contribuyen a un nivel de probabilidad (de menor a mayor) de que un video sea propaganda terrorista en lugar de que, por ejemplo, un video de noticias legítimo. La herramienta se puede aplicar en el punto de carga en una plataforma de video, lo que evita que el video de propaganda se cargue en primer lugar.

Se informa que esta herramienta es capaz de detectar con precisión el 94 % de las cargas de videos IS y que, por lo general, puede marcar el 0.005 % de las cargas de videos que no son IS. En un sitio con cinco millones de cargas diarias, por ejemplo, marcaría 250 videos que no son de SI para su revisión/para que se tome una decisión humana.

Otros lo han intentado

Se sabe que Facebook y Google han estado tratando de desarrollar su propia herramienta de filtrado de material terrorista, y se cree que esta versión del Reino Unido es adecuada para plataformas más pequeñas primero.

Ministro del Interior dice.

Se informa que el ministro del Interior, Rudd, dijo que a pesar de que se ha desarrollado la herramienta, el gobierno del Reino Unido no descartará tomar medidas legislativas también cuando sea necesario, y que un foro liderado por la industria como The Global Internet Forum to Counter Terrorism, lanzado el pasado año, también ayudará a abordar el problema.

¿Qué significa esto para tu negocio?

Para las empresas que utilizan plataformas de video y redes sociales más pequeñas, esta herramienta podría ser una solución práctica a los problemas actuales de moderación. Para el gobierno del Reino Unido, proporciona una buena publicidad, una oportunidad de recuperar algo de terreno en la batalla en línea con grupos terroristas como el Estado Islámico, y una forma de hacer frente a las preocupaciones de radicalización de los ciudadanos del Reino Unido. También proporciona una forma para que el Ministro del Interior ejerza más presión sobre las populares plataformas de redes sociales, algunas de las cuales el gobierno del Reino Unido ha criticado por no tomar medidas lo suficientemente rápidas para detectar y eliminar contenido extremista.

Para las empresas del Reino Unido en general, la asociación y el uso de plataformas publicitarias que están libres de material extremista y desagradable es obviamente mejor desde el punto de vista de la protección de la marca. Sin embargo, es un hecho que Facebook y Google son muy importantes para la publicidad comercial, y que la publicidad PPC, por ejemplo, es poco probable que se vea afectada si la plataforma de video/redes sociales elegida adopta dicha herramienta de detección en un futuro cercano.