Expertos en seguridad infantil cuestionan el nuevo ChatGPT para adolescentes
OpenAI lanzó ChatGPT para adolescentes, una versión del chatbot con restricciones de edad y medidas de seguridad específicas para menores de 18 años. La compañía había anunciado este sistema después de recibir críticas relacionadas con el uso de ChatGPT por parte de jóvenes. Si el sistema estima que un usuario es menor de edad, la experiencia para adolescentes se activa automáticamente.
La nueva modalidad incorpora funciones como Modo de estudio y visualizaciones de datos, además de controles destinados a limitar determinadas interacciones. OpenAI también anunció que ampliará las notificaciones para padres cuando detecte conversaciones preocupantes, particularmente aquellas relacionadas con trastornos alimentarios o posibles situaciones de autolesión.
Sin embargo, especialistas en seguridad infantil consideran que las medidas deben ser sometidas a pruebas independientes antes de recomendar el servicio a familias. Aunque reconocen algunos avances, reclaman mayor transparencia sobre el funcionamiento de los sistemas de seguridad y datos concretos que permitan comprobar su eficacia.
El desafío de detectar y proteger a los menores
Uno de los principales interrogantes es el sistema automático de estimación de edad. Los expertos señalan que OpenAI no publicó información suficiente sobre sus tasas de falsos positivos y falsos negativos. También advierten que los adolescentes podrían intentar eludir las restricciones mediante VPN u otros métodos.
Otra preocupación está relacionada con el compromiso de OpenAI de revisar mediante moderadores humanos determinadas conversaciones antes de notificar a los padres, con el objetivo de hacerlo dentro de una hora. Los especialistas cuestionan si la compañía dispone realmente de suficientes trabajadores para analizar de manera adecuada la enorme cantidad de conversaciones potencialmente problemáticas.
Los expertos también consideran positiva la atención sobre los trastornos alimentarios, pero reclaman evidencia de que las notificaciones produzcan mejores resultados para los adolescentes. Una de las principales críticas apunta a que la protección depende de que padres y adolescentes vinculen sus cuentas, cuando los especialistas consideran que las medidas de seguridad deberían estar activadas de forma predeterminada.
Vía – Engadget
