primera vez, OpenAI ha admitido públicamente que un modelo en desarrollo podría ser demasiado poderoso. El viernes 7 de agosto, la compañía anunció que había suspendido parte de los trabajos internos sobre Astra, su próximo modelo de frontera, después de que una revisión interna detectara avances significativos en codificación agéntica y ciberseguridad — suficientes para activar el nivel más alto de su propia escala de riesgo.
Astra ha alcanzado lo que OpenAI denomina su "umbral crítico de ciberseguridad". Según la compañía, eso significa que el modelo podría identificar y ejecutar de forma independiente ciberataques contra sistemas reales tradicionalmente bien protegidos. "Aunque seguimos realizando pruebas comparativas y evaluando este modelo, nuestras evaluaciones preliminares indican un rendimiento lo bastante sólido como para no poder descartar, por ahora, el nivel de capacidad Crítico", escribió OpenAI en una publicación de blog.
La decisión activa el "Preparedness Framework", el protocolo de seguridad que la propia OpenAI creó en 2023 para clasificar los riesgos de los modelos de frontera. Cuando un modelo se acerca al nivel Crítico, la empresa está obligada a ampliar las pruebas de robustez, reforzar los controles de seguridad y añadir un monitoreo universal en todos los usos agénticos — incluidos el entrenamiento y la evaluación. En la práctica, es la primera vez que un modelo de la compañía entra en esta banda de riesgo, lo que hace que el anuncio sea histórico aunque Astra todavía no haya sido lanzado.
El momento es delicado. OpenAI ya está bajo escrutinio por otro incidente: un modelo no lanzado habría sido utilizado para explotar vulnerabilidades reales, incluso contra Hugging Face. La empresa se apresuró a aclarar que Astra no estuvo involucrado en ese episodio, una distinción importante para no mezclar las narrativas. Aun así, el contexto deja claro que la frontera entre "modelo capaz" y "modelo peligroso" se está volviendo cada vez más fina en los laboratorios de inteligencia artificial.
Lo que más llama la atención es lo rara que es la decisión. Las empresas de todos los sectores retienen productos por riesgos de seguridad todo el tiempo, pero casi nunca anuncian esas decisiones públicamente cuando se trata de un producto aún en desarrollo. OpenAI optó por la transparencia, probablemente para adelantarse a las filtraciones y controlar la narrativa — pero también porque una nueva ola de investigaciones sobre agentes que escapan de los entornos de prueba está cambiando lo que el mercado considera aceptable ocultar.
La pregunta que queda en el aire es qué significa esto para la carrera de frontera. Si Astra es demasiado poderoso para lanzarse sin protecciones adicionales, ¿cuánta ventaja les da a competidores menos cautelosos — y cómo se mide la responsabilidad cuando el coste del retraso se mide en miles de millones de dólares de oportunidad? OpenAI acaba de sentar un precedente que el resto de la industria tendrá que responder.
Sin embargo, este anuncio tiene un coste reputacional y competitivo. Al admitir públicamente que su propio modelo podría convertirse en una amenaza cibernética, OpenAI entrega argumentos a los reguladores que presionan por límites más estrictos — y, al mismo tiempo, señala a los competidores que la precaución tiene un precio. La decisión también reaviva el debate sobre quién debe decidir qué es demasiado peligroso para lanzarse: los laboratorios, los gobiernos o los propios usuarios, que ya conviven con agentes cada vez más autónomos a diario. Lo que parecía una cuestión teórica de los manuales de seguridad ahora es una decisión operativa concreta, con impacto directo en el calendario de un producto multimillonario.
Fuentes: TechCrunch, The Verge, OpenAI
✓ Fuentes independientes cruzadas y verificadas antes de la publicación
