Facebook desarrolla una nueva herramienta para luchar contra la porno venganza
Facebook continúa en su lucha contra la porno venganza. El pasado viernes, la compañía anunció el lanzamiento de una nueva tecnología AI capaz de detectar de forma proactiva imágenes y vídeos «casi desnudos» compartidos sin consentimiento. Facebook sostiene que con esta herramienta ahora puede detectar automáticamente contenido pornográfico antes de que alguien lo reporte.
Antiguamente, Facebook confiaba en sus usuarios, a menudo las propias víctimas, para notificar a la red social sobre este tipo de contenido no consensual encontrado en la plataforma, lo cual planteaba un problema.
«A menudo, las víctimas temen las represalias, por lo que se muestran renuentes a informar el contenido por sí mismas o no saben que el contenido ha sido compartido», dice el jefe de seguridad global de Facebook, Antigone Davis, en una publicación.
Ahora, tras la detección automática, los miembros especialmente entrenados del equipo de Operaciones Comunitarias de Facebook revisarán el contenido marcado.
«Si la imagen o el vídeo violan nuestros estándares comunitarios, lo eliminaremos y, en la mayoría de los casos, también inhabilitaremos una cuenta para compartir contenido íntimo sin permiso», escribe Davis.
Facebook afirmó que esta herramienta funcionará en conjunto con su anterior programa piloto que invitaba a los usuarios a subir sus imágenes íntimas, en privado a la empresa, antes de que se publiquen en cualquier lugar. Facebook creaba así una «huella digital» de esa imagen que ayudaba a la compañía a evitar que la misma se comparta en la plataforma. Aunque el programa generó controversias al principio, desde entonces ha obtenido el apoyo de las víctimas y distintos grupos.
Además de estas dos herramientas, Facebook también anunció el lanzamiento de su nuevo centro de asistencia a las víctimas, «No sin mi consentimiento», donde se les indica a los usuarios que hacer y con quién comunicarse si son víctimas de la porno venganza.
Vía – Mashable
