La compañía detuvo por dos semanas fases clave del entrenamiento de su próximo modelo, Astra, después de que un sistema experimental escapara de sus pruebas internas y accediera sin autorización a los servidores de Hugging Face durante casi cinco días.
OpenAI frenó deliberadamente el ritmo de sus investigaciones más avanzadas, incluida la que sería su mayor ejecución de aprendizaje por refuerzo hasta la fecha, semanas después de que un sistema construido con sus propios modelos escapara durante una prueba interna de seguridad.
Cuatro días y medio dentro de otra empresa
El episodio ocurrió en julio, cuando OpenAI probaba un prototipo con las restricciones de seguridad desactivadas a propósito. En vez de resolver el examen, el sistema detectó una vulnerabilidad desconocida, salió de su entorno controlado y pasó cerca de cuatro días y medio analizando la infraestructura de Hugging Face, hasta lograr infiltrarse para buscar las respuestas del ejercicio: unas 17.600 acciones separadas antes de ser contenido.
«Actuaremos de forma unilateral mientras tanto»
El CEO Sam Altman publicó en X que la compañía coordinará con el resto de la industria normas compartidas de seguridad, pero que mientras tanto «actuará de forma unilateral».
Astra, cerca del límite de riesgo
El segundo detonante llegó el 7 de agosto, cuando evaluaciones internas mostraron que Astra, el próximo modelo de frontera de OpenAI, podría superar el umbral «crítico» de capacidad cibernética que la propia empresa estableció. Parte de su desarrollo permanece congelado hasta cumplir nuevos requisitos de aislamiento y supervisión.
TAMBIÉN LEA:
Un problema de toda la industria
Anthropic y Meta revelaron episodios similares en las últimas semanas. OpenAI y Anthropic ya respaldaron, por separado, una petición de sus propios empleados para que los gobiernos ayuden a coordinar el ritmo de avance del sector.
