Astra, de OpenAI, se convierte en la primera IA clasificada como riesgo crítico
OpenAI anunció el 2 de septiembre que su modelo Astra cruzó el umbral Crítico de capacidad cibernética de su Preparedness Framework, el primero de sus modelos en llegar a ese nivel. En las pruebas, Astra obtuvo un puntaje perfecto en el benchmark ExploitBench, halló por sí solo dos vulnerabilidades de día cero antes desconocidas y encadenó fallas para escapar de un sandbox de navegador y tomar control, con privilegios de administrador, de un sistema operativo endurecido. La compañía dijo que las capacidades cibernéticas completas no estarán disponibles al lanzamiento: primero se probarán con un grupo reducido de testers y después se ampliarán mediante un programa llamado Daybreak Blue, orientado a uso defensivo. Astra ya rechaza el 91,5% de los pedidos maliciosos relacionados con ciberataques, frente al 59% de su predecesor GPT-5.6 Sol. Cerca de 130 empresas de tecnología y ciberseguridad respaldaron además una iniciativa impulsada por OpenAI para reforzar las defensas frente a este tipo de capacidades.
Leer más (Securityweek)
Comentarios0
Todavía no comentó nadie. Estrénalo tú.
Entrá para dejar un comentario.