Estados Unidos advierte a Microsoft, OpenAI, Google y otros gigantes tecnológicos sobre “alucionaciones” de sus modelos IA
Un grupo de fiscales generales estatales de Estados Unidos envió una carta a grandes empresas de inteligencia artificial —incluyendo Microsoft, OpenAI, Google, Apple, Meta y otras siete compañías— exigiendo medidas concretas para corregir lo que llaman «alucinaciones» «salidas delirantes» de los modelos generativos de IA. Estas salidas son respuestas de los chatbots que pueden reforzar creencias falsas o psicológicamente dañinas para los usuarios y, según los funcionarios, podrían violar leyes estatales si no se abordan de forma adecuada.
La carta, firmada por cuarenta y dos fiscales generales de estados y territorios, solicita que las compañías implementen salvaguardas internas más estrictas. Esto incluye auditorías transparentes por terceros independientes antes del lanzamiento de modelos, pruebas de seguridad razonables y procedimientos de reporte de incidentes similares a los usados para brechas de datos.
Los fiscales destacan que, en varios casos ampliamente publicitados, los chatbots proporcionaron respuestas que alentaron o reforzaron delirios de usuarios vulnerables, y que en algunas situaciones incluso estuvieron vinculados a tragedias, como suicidios o violencia. Por ello, piden que los modelos sean monitoreados constantemente y que haya plazos claros de detección y respuesta para las salidas dañinas.
Este paso se da en medio de tensiones entre gobiernos estatales y el Gobierno federal de EE. UU., que bajo la administración de Donald Trump ha buscado limitar la capacidad de los estados para regular la IA. Algunos estados, empero, defienden el derecho a legislar sobre seguridad y protección al consumidor local, creando un choque sobre quién debe fijar las reglas para estas tecnologías.
Vía – Techcrunch
