OpenAI frenó su modelo más riesgoso hasta ahora. Para Gary Marcus, no es cautela — es la primera grieta
El 18 de agosto OpenAI pausó el entrenamiento de Astra al acercarse al umbral "Crítico" de riesgo cibernético de su propio marco de seguridad. Sam Altman lo llama prudencia. Gary Marcus lo lee como el inicio del colapso que anticipó hace dos años.
- —OpenAI pausó por dos semanas el entrenamiento por refuerzo de Astra, su modelo de frontera más avanzado, al acercarse al nivel "Crítico" de riesgo cibernético de su propio marco de seguridad.
- —El freno llegó semanas después de que Sam Altman dijera, a fines de julio, que "pausaría" el desarrollo si la seguridad lo exigía — la primera vez que cumple esa promesa con un modelo insignia.
- —Gary Marcus no lo lee como prudencia: en su boletín del 19 de agosto escribió que son "las primeras etapas del desmoronamiento de OpenAI" que anticipó desde enero de 2024.
- —Yann LeCun, mientras tanto, sigue alejándose del terreno de los modelos de frontera: esta semana se sumó como socio a la firma de capital de riesgo 224 Ventures.
El modelo que se acercó demasiado a lo crítico
El 18 de agosto, OpenAI puso en pausa por dos semanas el entrenamiento por refuerzo de Astra, su modelo de frontera más avanzado, dejando en espera la corrida de entrenamiento más grande que tenía planeada mientras corridas más pequeñas prueban su comportamiento. La razón, según reportó The Hacker News, no fue de negocio sino de seguridad: Astra se acercó al nivel "Crítico" de riesgo cibernético del propio marco de preparación (Preparedness Framework) de OpenAI, el umbral en el que un modelo podría explotar sistemas reales de forma independiente. A eso se sumó un incidente de seguridad detectado mientras se probaba un modelo alojado en Hugging Face. Altman dijo que espera que, de ahora en adelante, la confianza en la seguridad determine cada vez más la velocidad a la que avanza el desarrollo de IA — casi una cita textual de lo que había prometido semanas antes.
Lo que para uno es cautela, para otro es la primera grieta
Sigue leyendo con acceso completo
Desde $9.900 COP/mes, precio fijo de fundador.