Investigador de Anthropic advierte que la IA podría acabar con la humanidad
Un investigador de seguridad de Anthropic afirmó que existe una probabilidad superior al 10 % de que la inteligencia artificial pueda acabar con toda la humanidad durante la próxima década. La declaración se produjo poco después de la renuncia de otro investigador de la compañía, Jacob Coxon, quien denunció que las empresas de IA están avanzando demasiado rápido en el desarrollo de sistemas potencialmente incontrolables.
Coxon explicó que decidió abandonar Anthropic debido a lo que considera una actitud insuficiente frente a los riesgos de seguridad. Según su crítica, Anthropic y OpenAI están compitiendo por desarrollar sistemas de superinteligencia que puedan mejorarse a sí mismos, aun cuando quienes trabajan en el sector reconocen la posibilidad de consecuencias catastróficas.
Las declaraciones fueron respaldadas por Evan Hubinger, responsable de uno de los equipos de seguridad de Anthropic. Hubinger reconoció que la posibilidad de una IA capaz de provocar una catástrofe global es tomada seriamente dentro de la empresa y estimó personalmente que el riesgo supera el 10 % en los próximos diez años.
La carrera por la superinteligencia genera nuevas dudas
Uno de los aspectos más preocupantes de la discusión es el denominado autoaprendizaje recursivo: la posibilidad de que sistemas cada vez más avanzados puedan contribuir a mejorar las siguientes generaciones de IA. Los investigadores temen que un proceso de este tipo pueda acelerarse y dificultar progresivamente el control humano sobre los sistemas.
Hubinger también reconoció que Anthropic todavía no cuenta con un plan concreto para garantizar que las futuras inteligencias artificiales permanezcan seguras y alineadas con los valores humanos. Además, admitió que la compañía tampoco está claramente encaminada a disponer de ese mecanismo de seguridad.
El episodio refleja una creciente tensión dentro de la industria entre quienes defienden acelerar el desarrollo de modelos cada vez más capaces y quienes reclaman mayores medidas de seguridad y alineamiento de la IA. Las preocupaciones se producen además mientras las principales empresas del sector enfrentan incidentes relacionados con agentes autónomos y preparan posibles operaciones financieras de gran escala.
Vía – The Verge
