Snapchat aplicará marcas de agua a las imágenes generadas por IA
Los usuarios de Snapchat ahora verán una imagen fantasmal flotando sobre sus imágenes generadas por IA, a medida que Snapchat se une a otras grandes empresas tecnológicas que utilizan tecnología de marcas de agua para combatir la desinformación y los deepfakes de la IA.
Imágenes con IA en Snapchat
Las imágenes creadas con las herramientas de inteligencia artificial de Snapchat, como la herramienta de extensión de la aplicación y su función Dreams lanzada recientemente, se estamparán con una marca de agua transparente (el logotipo fantasma de Snapchat) una vez que se exporten o descarguen de la aplicación. Los usuarios que reciben imágenes generadas por IA también pueden ver el logotipo fantasma y el ícono de IA «brillante» de la aplicación.
Actualmente, Snapchat marca el contenido generado por IA, incluidas conversaciones de texto con su chatbot My AI, de varias maneras. Las imágenes creadas con Dreams van acompañadas de una «tarjeta de contexto» que explica la función y la IA generativa. Mis conversaciones de IA y la herramienta de extensión utilizan íconos «contextuales», como el símbolo de brillo.
«También tenemos mucho cuidado en examinar todos los anuncios políticos a través de un riguroso proceso de revisión humana, que incluye una verificación exhaustiva de cualquier uso engañoso de contenido, incluida la inteligencia artificial para crear imágenes o contenido engañosos», escribió la plataforma. «La adición de estas marcas de agua ayudará a informar a quienes la vean que la imagen se creó con IA en Snapchat».
Junto con la nueva herramienta de transparencia, Snapchat también se comprometió con los esfuerzos continuos de alfabetización en IA. Hasta ahora, eso solo implica preguntas frecuentes sobre IA generativa disponibles en su sitio de soporte.
«Si bien todas nuestras herramientas de inteligencia artificial, tanto visuales como de texto, están diseñadas para evitar producir material incorrecto, dañino o engañoso, aún pueden ocurrir errores», escribió la compañía. «Los usuarios de Snapchat pueden informar contenido y apreciamos sus comentarios».
Además de Snapchat, otras plataformas sociales también están abordando el uso de inteligencia artificial en la creación de contenido y la transparencia. X, anteriormente conocida como Twitter, ha estado implementando medidas para identificar y etiquetar contenido generado por IA. Al igual que Snapchat, X se ha comprometido a combatir la desinformación y asegurar la integridad del contenido que se comparte en su plataforma.
Para las nuevas cuentas en X, estas medidas son especialmente importantes, ya que ayudan a los usuarios a distinguir el contenido auténtico del generado por inteligencia artificial desde el principio. La implementación de marcas de agua y etiquetas en imágenes y texto creados por IA no solo ayuda a los usuarios a identificar el contenido generado por inteligencia artificial, sino que también promueve una mayor transparencia y confianza en las interacciones digitales. La cooperación entre estas plataformas destaca la importancia de la alfabetización en IA y la necesidad de salvaguardar el espacio digital de contenido engañoso.
Vía – Mashable
