OpenAI pausó durante dos semanas el aprendizaje por refuerzo en sus modelos más recientes destinados a despliegue para reforzar sus entornos de investigación, y dice que su mayor ejecución de refuerzo de frontera prevista sigue en suspenso

Fecha del hecho / publicación

Categoría de la evidencia

Tareas sobre las que incide

Dónde aplica esto

El relato de una empresa restringiendo su propio trabajo, que es la parte inusual: aquí la restricción es autoimpuesta y no regulatoria, y no hay auditoría externa de qué se pausó ni durante cuánto. Se nombran dos detonantes — el incidente de OpenAI y Hugging Face, tras el cual se detuvieron en el clúster de investigación las cargas de inferencia que podían ejecutar código o alcanzar internet, y una determinación del 7 de agosto de que un modelo en preparación podía alcanzar el umbral crítico de capacidad cibernética del propio marco de preparación de la empresa. Los requisitos que siguieron son concretos: aislamiento en sandbox para las cargas que ejecutan código generado por el modelo, aislamiento de red para las cargas no confiables, monitorización de cada token muestreado para los modelos de cierto nivel de capacidad, y un objetivo de alerta de treinta minutos, con un sobrecoste de monitorización declarado de en torno al 20% del cómputo de inferencia monitorizado. Una pausa no es una parada: algunas cargas se reanudaron bajo controles más fuertes en semanas. No dice nada sobre ningún laboratorio que no sea este.

Qué significa esto

Qué no muestra todavía

El relato de una empresa sobre sí misma, sin ninguna auditoría externa de qué se pausó ni durante cuánto. Una pausa no es una parada: algunas cargas de trabajo se reanudaron bajo controles más fuertes en semanas. Tampoco dice nada de si alguien fuera de este laboratorio tiene el peso para detener el trabajo de su propio equipo.

Qué puedes comprobar

¿Cambia la evaluación?

Fuente