China propone reglas estrictas de seguridad emocional para IA con interacción humana
China está elaborando un conjunto de reglas para regular servicios de inteligencia artificial que simulan personalidad y mantienen interacción emocional con usuarios, incluidos chatbots, asistentes virtuales y aplicaciones de compañía. Estas normas pretenden responsabilizar a los proveedores por el impacto social y emocional que las IA pueden tener, obligándolos a alertar sobre uso excesivo y monitorear el estado emocional y de dependencia de los usuarios.
Las reglas propuestas exigirían que las empresas establezcan sistemas de revisión de algoritmos, revisiones continúas de seguridad, protección de datos personales y mecanismos para identificar emociones y dependencia del usuario. Si se detectan señales de adicción o riesgo, la IA debe intervenir para reducir daño o sugerir descansos, con advertencias especializadas si aparece riesgo de autolesión o pensamientos suicidas.
Enfoque en seguridad y límites de contenido
Además de los requisitos de seguridad emocional, las reglas de China establecerían límites estrictos de contenido: las IA no podrían producir material que ponga en riesgo la seguridad nacional, difunda rumores o violencia, ni contenido obsceno. Para los menores, se exigiría verificación de edad y configuraciones de seguridad activas por defecto, con advertencias claras de que están interactuando con una IA.
Estas propuestas reflejan un enfoque chino distintivo hacia la gobernanza de la IA, donde el Estado busca equilibrar la innovación con protecciones sociales y psicológicas amplias, ampliando la discusión global sobre cómo regular la inteligencia artificial que no solo informa, sino que también interactúa emocionalmente con las personas.
Vía – Mashable
