Comparación de imágenes y análisis de texto con algoritmos son algunas de las estrategias de inteligencia artificial que usa Facebook para detener la propagación de contenido terrorista en la red social. Así lo revelaron Monika Bickert, directora Global de Gestión de Políticas de Contenido, y Brian Fishman, gerente de Políticas contra el Terrorismo, en una carta en la que señalan que en Facebook “no hay lugar para el terrorismo” y que la compañía trabaja para eliminar este tipo de contenidos en cuanto son detectados.
“Hemos sido cautelosos, en parte porque no queremos sugerir que existe una solución técnica simple. Es un enorme reto mantener a las personas seguras en una plataforma utilizada por casi 2.000 millones cada mes, que publican y comentan en más de 80 idiomas en cada rincón del mundo. Y tenemos mucho trabajo por delante”, expresan en el documento.
Entre las estrategias a las que acude la compañía para cumplir este objetivo está la de hacer uso de sistemas que analizan si la imagen coincide con una foto o video de terrorismo que ya haya sido publicado o eliminado previamente para evitar así que sea divulgado de nuevo.
A través de la inteligencia artificial el gigante tecnológico también realiza análisis de textos favorables a organizaciones como ISIS y Al Qaeda que ya se han eliminado.
“Este análisis entra en un algoritmo que se encuentra en las primeras etapas del aprendizaje sobre cómo detectar publicaciones similares. Los algoritmos de aprendizaje automático o “machine learning” trabajan en un bucle de retroalimentación y mejoran con el tiempo”.
La eliminación de clusters terroristas también hace parte de la lista de estrategias. Con algoritmos se identifica el posible material relacionado con terrorismo y se tienen en cuenta señales como, por ejemplo, “si una cuenta es amiga de un número elevado de cuentas que han sido inhabilitadas por terrorismo, o si una cuenta comparte los mismos atributos que una cuenta inhabilitada”.
Finalmente Facebook asegura que también recopila información relevante obtenida de sus otras aplicaciones WhatsApp e Instagram para complementar los sistemas de datos y evitar mayor difusión de este tipo de contenidos.
En la carta también se hace referencia a la importancia del papel que juegan las personas que revisan los informes y reportes de los usuarios así como las funciones que cumplen los más de 150 especialistas en terrorismo y seguridad que colaboran con las investigaciones.
Por otro lado Facebook mencionó la alianza con Microsoft, Twitter y YouTube con la que se busca crear una base de datos compartida de “hashes” (huellas digitales únicas de fotos y videos) sobre contenido que apoye a organizaciones terroristas.