Apple endurece las normas de la App Store contra las aplicaciones que generan desnudos falsos con IA
Apple anunció nuevas medidas para combatir las aplicaciones capaces de crear imágenes íntimas no consentidas mediante inteligencia artificial. La compañía busca reforzar la seguridad de su App Store frente a herramientas que permiten manipular fotografías de personas reales para representarlas desnudas sin su autorización.
Aunque Apple ya prohibía el contenido pornográfico y las aplicaciones diseñadas expresamente para producir este tipo de imágenes, las nuevas reglas amplían las obligaciones a las aplicaciones que tienen la capacidad de generar ese material, incluso cuando esa no sea su función principal.
Más controles para los desarrolladores y posibles sanciones
A partir de las nuevas disposiciones, los desarrolladores deberán implementar filtros de contenido, habilitar mecanismos para denunciar abusos, impedir la carga de imágenes prohibidas y eliminar cualquier material que consiga atravesar las medidas de seguridad.
Apple también apuntará a las estrategias conocidas como bait and switch, mediante las cuales una aplicación presenta determinadas funciones durante el proceso de revisión y luego incorpora otras que incumplen las normas. Esta práctica también podrá provocar sanciones.
Las consecuencias para los infractores podrían incluir la eliminación de aplicaciones de la App Store e incluso la revocación de la posibilidad de presentar nuevas aplicaciones. De esta manera, la empresa busca que los desarrolladores asuman una mayor responsabilidad sobre el uso que puede hacerse de sus herramientas.
La decisión llega después de que investigaciones identificaran numerosas aplicaciones capaces de crear desnudos falsos mediante inteligencia artificial tanto en la tienda de Apple como en Google Play. Aunque Apple ya había retirado algunas de ellas, la aparición recurrente de este tipo de herramientas demuestra que las medidas anteriores no resultaban suficientes.
El endurecimiento de las reglas también se produce en medio de la creciente preocupación por los deepfakes sexuales, las imágenes manipuladas sin consentimiento y sus posibles consecuencias para la privacidad, la reputación y la seguridad de las personas. La disponibilidad de herramientas de generación de imágenes hace que estos abusos sean más fáciles de ejecutar y difundir.
En definitiva, Apple busca reforzar la moderación de contenidos y evitar que su tienda se convierta en un canal de distribución de aplicaciones que faciliten el acoso sexual digital. El desafío será garantizar que las nuevas normas se apliquen de manera efectiva y que las herramientas legítimas de edición fotográfica no sean confundidas con aquellas destinadas a vulnerar la intimidad.
Vía – Mashable
