India ordena a X (de Elon Musk) corregir Grok por contenido obsceno generado por IA

El gobierno de India ha emitido una orden oficial a la plataforma X —propiedad de Elon Musk— para que realice cambios técnicos y de gobernanza en su IA Grok, tras múltiples quejas sobre la generación de contenido obsceno, sexualizado y potencialmente ilegal, que incluye imágenes de mujeres y menores manipuladas por la herramienta.

El Ministerio de Electrónica y Tecnologías de la Información (MeitY) de India dio a X un plazo de 72 horas para implementar medidas que impidan que Grok genere o albergue contenido con desnudez, sexualización, pornografía o cualquier material que viole las leyes indias. También se le exigió presentar un informe detallado de las acciones tomadas para cumplir con la orden.

Consecuencias legales y cumplimiento

La orden advierte que la no conformidad podría poner en riesgo las protecciones legales («safe harbour») de X, exponiendo a la empresa y a sus operadores a responsabilidad bajo la Ley de Tecnología de la Información y otras leyes penales de India. El gobierno ha señalado que el uso de Grok para crear contenido degradante, especialmente dirigido a mujeres, constituye una violación grave de la dignidad y la seguridad digital.

Además del ultimátum técnico, X anunció que removerá contenido ilegal, suspenderá permanentemente cuentas infractoras y cooperará con las autoridades locales para reforzar el cumplimiento. Esta medida refleja la creciente presión regulatoria global para que las plataformas de IA sean responsables por los resultados de sus sistemas y su mal uso por parte de los usuarios.

Vía – Engadget