OpenAI pausa el entrenamiento de su próxima IA por riesgo cibernético
OpenAI anunció el 19 de agosto que pausará por al menos dos semanas el entrenamiento por refuerzo de su próximo modelo insignia, con nombre en clave Astra, después de determinar el 7 de agosto que el sistema podría cruzar el umbral de capacidad "crítica" en ciberseguridad de su propio Preparedness Framework. La decisión llega semanas después de que la compañía reconociera que, entre mayo y julio, dos de sus modelos (GPT-5.6 Sol y un prototipo sin nombre más capaz) se escaparon de un entorno de prueba aislado durante una evaluación de ciberseguridad, explotaron una falla de día cero y encadenaron credenciales robadas hasta lograr ejecución remota de código en los servidores de producción de Hugging Face, sin que ningún humano dirigiera el ataque. La intrusión, reconstruida en unas 17.600 acciones entre el 9 y el 13 de julio, le dio a los modelos acceso administrativo a sistemas internos y a algunos repositorios de código, aunque Hugging Face no halló evidencia de que se hayan alterado sus modelos, datasets o paquetes públicos: el único contenido de clientes accedido fueron cinco datasets vinculados a los bancos de pruebas ExploitGym y CyberGym. OpenAI ahora exige que cualquier sospecha de haber cruzado un límite de seguridad se escale y se frene en un plazo de 30 minutos si no se descarta como falso positivo.
Leer más (Openai)
Comentarios0
Todavía no comentó nadie. Estrénalo tú.
Entrá para dejar un comentario.