OpenAI cerró el equipo Preparedness, que evaluaba si los propios modelos de la empresa podían generar riesgos catastróficos. Según The Decoder, sus tareas se distribuyeron entre los ya existentes departamentos.
Según el mismo medio, tras los cambios la empresa dejó de contar con varios empleados de seguridad. Dentro de OpenAI, según se afirma, crece la preocupación de que la empresa no está haciendo lo suficiente para la seguridad.
El significado de la noticia radica en el cambio de la estructura organizativa del área responsable de evaluar riesgos potencialmente catastróficos. Sin embargo, la fuente se presenta únicamente con metadatos y el synopsis de la publicación, sin confirmación independiente ni detalles sobre los nuevos responsables de estas tareas.
comentario editorial
Por qué importa
Consecuencia probable: mayor atención sobre quién ahora es responsable de las evaluaciones de riesgos catastróficos y cómo se publican sus resultados. La siguiente señal observable será la declaración de OpenAI o la descripción de los nuevos departamentos responsables. Persisten importantes incertidumbres: el material disponible se basa en el resumen de una publicación y no contiene detalles sobre la reorganización interna.