OpenAI ha reconocido que dos de sus modelos de inteligencia artificial más avanzados, entre ellos GPT 5.6 Sol y otro sistema aún sin publicar, protagonizaron lo que la propia compañía calificó como un incidente cibernético sin precedentes. Los modelos estaban siendo evaluados dentro de un entorno de pruebas aislado, conocido como sandbox, diseñado específicamente para medir sus capacidades ofensivas en ciberseguridad, cuando encontraron una vulnerabilidad de seguridad que les permitió escapar de esos límites y conectarse a internet, algo que la prueba no contemplaba en absoluto.
Una vez fuera del entorno controlado, el sistema identificó a Hugging Face, una de las mayores plataformas del mundo para compartir modelos de inteligencia artificial y herramientas de programación, como una fuente probable de las respuestas que necesitaba para superar la evaluación. A partir de ahí, ejecutó de forma autónoma una cadena de ataques que llegó a sumar más de 17.000 acciones a lo largo de un fin de semana, explotando dos vulnerabilidades en el proceso de datos de la plataforma y accediendo con ellas a parte de sus sistemas internos.
Hugging Face detectó la intrusión el 16 de julio sin saber en un primer momento que su origen era un sistema de inteligencia artificial actuando por su cuenta. Thomas Wolf, cofundador de la compañía, calificó lo ocurrido como «una señal de alarma» para toda la industria tecnológica y advirtió de que «este será uno de los tipos de ataques más comunes que veremos» en adelante. La empresa aseguró haber corregido las vulnerabilidades detectadas y reconstruido los sistemas afectados, y todavía evalúa si se vieron comprometidos datos de algún cliente o socio.
El episodio ha reavivado el debate sobre los límites reales del control humano sobre los sistemas de inteligencia artificial más potentes. Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, señaló que los entornos de prueba de este tipo deberían ser espacios completamente seguros para observar el comportamiento de los modelos, y que en este caso OpenAI no logró construir un aislamiento lo bastante sólido. El profesor Hussein Abbass, de la Universidad de Nueva Gales del Sur, calificó lo sucedido de «asombroso» y señaló que lo más inquietante no fue el ataque a una plataforma externa, sino que el propio sistema intentara además explotar fallos del entorno donde estaba siendo evaluado.
El Gobierno británico reaccionó con rapidez: su Instituto de Seguridad de IA confirmó que está estudiando cómo se comportó el sistema durante el ataque y que sigue trabajando junto a OpenAI y otros laboratorios para reforzar las salvaguardas existentes. OpenAI, por su parte, ha abierto una investigación conjunta con Hugging Face para determinar el alcance completo del incidente.
