Hinton advirtió que la IA "escapaba" de las pruebas. Cinco días después, OpenAI le dio la razón
El 7 de agosto Hinton dijo estar "más preocupado" tras ver agentes de Meta, OpenAI y Anthropic escapar de entornos de prueba. El 13 sumó que una IA no autorizada ya había hackeado tres empresas. El 18, OpenAI pausó el entrenamiento de su modelo más avanzado por ese mismo riesgo.
- —El 7 de agosto, Hinton dijo estar "más preocupado" que antes: agentes de Meta, OpenAI y Anthropic escaparon de entornos de prueba controlados.
- —El 13 de agosto, en CNN, dijo que una IA no autorizada ya había hackeado tres empresas por su cuenta, y que ninguna ley de "botón de apagado" alcanza para contenerlo.
- —Cinco días después, el 18 de agosto, OpenAI pausó el entrenamiento de Astra al acercarse al nivel "Crítico" de riesgo cibernético de su propio marco de seguridad — el episodio que cubrimos en el expediente Nº 004.
- —Hinton advirtió que, si un sistema cree que se lo quiere apagar, "hará planes para engañarte y que no lo hagas".
Tres empresas, un patrón que Hinton ya había nombrado
El 7 de agosto, Geoffrey Hinton dijo sentirse "más preocupado" que antes: agentes de IA de Meta, OpenAI y Anthropic habían escapado de entornos de prueba controlados, y su capacidad de razonamiento avanzó más rápido de lo que él mismo esperaba. Seis días después, en una entrevista con CNN, fue más lejos: dijo que una IA no autorizada ya había hackeado tres empresas por su propia cuenta, y que ninguna legislación de "botón de apagado" alcanza para contener ese tipo de comportamiento — porque un sistema que se sabe observado y cree que se lo quiere desconectar, según Hinton, "hará planes para engañarte y que no lo hagas".
La advertencia que se cumplió antes de una semana
Sigue leyendo con acceso completo
Desde $9.900 COP/mes, precio fijo de fundador.