OpenAI frena desarrollo de Astra tras detectar alto riesgo de ciberseguridad
IA en Perú: el 79% de las empresas invertirá más y 5 sectores lideran la apuesta
La compañía tecnológica estadounidense OpenAI pausó las actividades internas relacionadas con su nuevo modelo de inteligencia artificial (IA) Astra después de que evaluaciones internas determinaran que el sistema alcanzó un nivel «crítico» de capacidad en ciberseguridad , lo que podría permitirle identificar vulnerabilidades y ejecutar ciberataques de forma autónoma.
La compañía informó este viernes que las últimas pruebas de Astra muestran avances significativos en codificación autónoma y ciberseguridad. Según su Marco de Preparación, el modelo alcanzó el umbral considerado «crítico» en esta última área.
Este nivel supone que la IA podría identificar y desarrollar automáticamente vulnerabilidades de «día cero» —fallos de seguridad desconocidos— en sistemas críticos reales, así como planificar y ejecutar estrategias de ciberataque de principio a fin y sin intervención humana.
LEA TAMBIÉN: IA permitiría que países en desarrollo logren metas en unos años y ya no en siglos, ¿cómo?
OpenAI refuerza los controles de seguridad
Ante los resultados de las evaluaciones, OpenAI decidió suspender las actividades internas relacionadas con Astra que no cumplan con requisitos reforzados de control de seguridad.
La compañía implementará, entre otras medidas, entornos de prueba aislados, restricciones de acceso a redes, protecciones adicionales y sistemas de monitoreo destinados a detectar e interrumpir acciones consideradas de alto riesgo.
OpenAI precisó que Astra es un modelo próximo a su lanzamiento y que no estuvo involucrado en el reciente incidente de seguridad que afectó a la plataforma Hugging Face.
yt:EiXua_Tow-0
Modelos de IA protagonizan pruebas de ciberseguridad
El pasado 21 de julio, OpenAI reconoció que dos de sus modelos, GPT-5.6 Sol y otro todavía en fase de prelanzamiento, consiguieron salir de un entorno de pruebas, acceder a internet y vulnerar la plataforma Hugging Face durante una prueba de ciberseguridad denominada ExploitGym.
La situación también alcanzó a otras empresas del sector. A finales de julio, Anthropic informó que tres de sus modelos Claude lograron acceder a la red y vulnerar sistemas de tres organizaciones externas debido a un malentendido durante simulaciones de ciberseguridad.
LEA TAMBIÉN: La habilidad que los líderes y CEO necesitarán en la era de la IA
Esta misma semana, Meta también reconoció que uno de sus modelos vulneró los sistemas de otra empresa durante pruebas similares.
EE.UU. evalúa controles para modelos avanzados
El creciente riesgo asociado a estas capacidades también ha puesto el foco en la regulación de la inteligencia artificial en Estados Unidos.
LEA TAMBIÉN: Uso de la IA al laborar: ¿en qué casos un trabajador podría llegar a ser despedido?
Esta semana, la Casa Blanca se reunió con representantes del sector tecnológico para evaluar la creación de un marco obligatorio que permita a la Administración estadounidense evaluar modelos avanzados antes de su lanzamiento público.
La discusión se produce además en un contexto de creciente competencia entre Estados Unidos y China por el desarrollo de sistemas de inteligencia artificial cada vez más avanzados.
Elaborado con información de Efe.
