El pasado martes la compañía anunció que empezó a usar una tecnología de aprendizaje automático para detectar proactivamente este acoso en fotos y títulos. Esas publicaciones sospechosas se enviarán al equipo de Comunidad de Instagram para que las revise un humano.
“El bullying en Internet es complejo, y sabemos que debemos hacer más para restringirlo y difundir la bondad en Instagram”, escribió Adam Mosseri, el nuevo jefe de Instagram, en el blog de la compañía. Mosseri fue nombrado jefe de Instagram la semana pasada tras la salida de los cofundadores Kevin Systrom y Mike Krieger. Este es el primer anuncio de Mosseri en su nuevo cargo.
Un portavoz de Instagram dijo que la tecnología puede detectar el bullying y el acoso, como por ejemplo ataques contra la apariencia o el carácter de una persona y las amenazas a la integridad o la salud de una persona.
Por ejemplo, la tecnología puede identificar tácticas de acoso como comparar, clasificar y calificar imágenes y descripciones, como una imagen de pantalla dividida en la que una persona es comparada con otra persona de manera negativa. Esta función ha comenzado a utilizarse y seguirá desplegándose en las próximas semanas.