OpenAI desarrolla nuevas estrategias para evitar la ralentización de su nuevo modelo IA

OpenAI estaría desarrollando nuevas estrategias para hacer frente a la ralentización de la mejora de la IA.

El próximo modelo insignia de OpenAI podría no representar un salto tan grande como sus predecesores, según un nuevo informe publicado en The Information.

Al parecer, los empleados que probaron el nuevo modelo, cuyo nombre en clave es Orion, descubrieron que, aunque su rendimiento supera al de los modelos existentes de OpenAI, la mejora era menor que la observada en el salto de GPT-3 a GPT-4. En otras palabras, el ritmo de mejora es menor que el de los modelos anteriores.

En otras palabras, parece que el ritmo de mejora se está ralentizando. De hecho, Orion podría no ser fiablemente mejor que los modelos anteriores en algunas áreas, como la codificación.

En respuesta, OpenAI ha creado un equipo de fundaciones para averiguar cómo puede la empresa seguir mejorando sus modelos ante la disminución de nuevos datos de entrenamiento. Según se informa, estas nuevas estrategias incluyen el entrenamiento de Orion con datos sintéticos producidos por modelos de IA, así como la mejora de los modelos durante el proceso de post-entrenamiento.

En respuesta a informes anteriores sobre planes para su modelo insignia, la empresa dijo: «No tenemos planes de lanzar un modelo con nombre en código Orion este año».

Vía – Techcrunch