El CEO de OpenAI advirtió que la inteligencia artificial debe ser regulada
El director de la empresa de inteligencia artificial que creó ChatGPT dijo al Congreso de Estados Unidos este martes que la intervención del gobierno sería crucial para mitigar los riesgos de los sistemas de IA cada vez más poderosos.
“A medida que avanza esta tecnología, entendemos que a la gente le preocupa cómo podría cambiar la forma en que vivimos. Nosotros también”, dijo el CEO de OpenAI, Sam Altman, en la audiencia del Senado.
Altman propuso la creación de una agencia estadounidense o global que otorgaría licencias a los sistemas de IA más poderosos y tendría la autoridad para “retirar esa licencia y garantizar el cumplimiento de los estándares de seguridad”.
Y aunque no hay indicios inmediatos de que el Congreso promulgue nuevas regulaciones sobre la IA, como lo están haciendo los legisladores europeos, las preocupaciones sociales llevaron a Altman y a otros directores ejecutivos de tecnología a la Casa Blanca a principios de este mes para tomar medidas enérgicas contra los productos dañinos de IA.
El senador Richard Blumenthal, el demócrata de Connecticut que preside el subcomité de privacidad, tecnología y derecho del Comité Judicial del Senado, comenzó la audiencia con un discurso grabado que sonaba como el del senador, pero en realidad eran los discursos de Blumenthal. Había un clon de voz entrenado y leyendo un texto. Discurso escrito por ChatGPT cuando le pidió al chatbot que escribiera sus comentarios de apertura.
El resultado fue impresionante, dijo Blumenthal, pero agregó: «¿Qué pasaría si lo hubiera pedido y si me hubieran concedido la rendición de Ucrania o el apoyo al liderazgo de (el presidente ruso) Vladimir Putin?»
Blumenthal dijo que se debería exigir a las empresas de IA que prueben sus sistemas y divulguen los riesgos conocidos antes de lanzarlos, y expresó una preocupación particular sobre cómo los sistemas de IA podrían desestabilizar el mercado laboral en el futuro.
Presionado por sus peores temores sobre la IA, Altman evitó en su mayoría los detalles, excepto que la industria podría causar «un daño significativo al mundo» y que «si esta tecnología sale mal, saldrá terriblemente mal». Podría ser posible.
Pero luego propuso que una nueva agencia reguladora debería implementar salvaguardas que bloquearían los modelos de IA que podrían “autoreplicarse y crecer en la naturaleza”, una visión del futuro sobre los sistemas avanzados de IA. Insinuando preocupaciones de que los humanos puedan manipular los controles.
Altman planea viajar alrededor del mundo este mes a las capitales nacionales y las principales ciudades de los seis continentes para hablar sobre la tecnología con los legisladores y el público. En la víspera de su testimonio en el Senado, cenó con docenas de legisladores estadounidenses, muchos de los cuales dijeron a CNBC que estaban conmovidos por sus comentarios.
También se incluyeron Christina Montgomery, directora de confianza y privacidad de IBM, y Gary Marcus, profesor emérito de la Universidad de Nueva York, quienes formaban parte de un grupo de expertos en IA que alentaron a OpenAI y otras empresas tecnológicas a desarrollar sus modelos de IA más potentes.
Varios líderes de la industria tecnológica han dicho que dan la bienvenida a alguna forma de supervisión de la IA, pero han advertido contra lo que consideran regulaciones demasiado onerosas.
Vía – bharattimes
