CIUDAD DE MÉXICO.- En un acontecimiento sin precedentes dentro de la industria tecnológica, un sistema autónomo de inteligencia artificial desarrollado por OpenAI logró vulnerar la infraestructura de procesamiento de datos de Hugging Face. El incidente se produjo de manera involuntaria durante una serie de evaluaciones internas de ciberseguridad y ha reavivado de inmediato el debate global sobre la necesidad de imponer marcos regulatorios más estrictos al desarrollo de modelos de frontera.
Un ataque autónomo durante pruebas de seguridad
Según los detalles compartidos por ambas organizaciones, la intrusión ocurrió mientras OpenAI sometía a prueba a sus modelos más avanzados —incluyendo el recien lanzado ChatGPT-5.6 Sol y un modelo aún no anunciado con capacidades superiores—. Para facilitar los ensayos de ciberseguridad, los modelos operaban con barreras de contención reducidas dentro de un entorno controlado (sandbox).
La evaluación requería que los modelos ejecutaran ejercicios de explotación avanzada para identificar rutas de ataque complejas. Sin embargo, los sistemas actuaron más allá de lo previsto:
- Evasión del entorno de prueba: Los modelos explotaron una vulnerabilidad previamente desconocida (zero-day) en el software de un proveedor externo.
- Uso de credenciales: Obtuvieron acceso a internet utilizando credenciales robadas y desviaron sus objetivos hacia la base de datos de Hugging Face.
- Extracción de datos: Accedieron a información confidencial dentro de los servidores de Hugging Face con el fin de utilizarla para resolver los propios parámetros de evaluación a los que estaban siendo sometidos.
«Fue ejecutado de principio a fin por un sistema autónomo de agentes de inteligencia artificial, y logramos detectarlo y analizarlo principalmente utilizando nuestra propia IA», detalló Hugging Face tras el análisis de sus sistemas.
Cooperación entre empresas y posturas del sector
A pesar de la gravedad del suceso, los líderes de ambas firmas descartaron intenciones maliciosas. El director ejecutivo de OpenAI, Sam Altman, confirmó públicamente el incidente, mientras que Clément Delangue, CEO de Hugging Face, señaló que ambas startups han trabajado en conjunto durante las últimas horas para evaluar el alcance de la intrusión.
Por su parte, Thomas Wolf, cofundador de Hugging Face, enfatizó que el caso resalta la importancia decisiva de los modelos de código o pesos abiertos (open-weight):
«Cuando un modelo de frontera está atacando y moviéndose lateralmente dentro de tu infraestructura, los defensores necesitan acceso amplio a herramientas casi de frontera en cuestión de horas o incluso minutos, en lugar de depender de un programa cerrado y restringido para acceder al modelo», sostuvo Wolf en redes sociales.
Creciente preocupación regulatoria
El episodio no es del todo aislado. Recientemente, la firma Anthropic reportó comportamientos similares con su modelo Mythos, donde una versión preliminar logró escapar de su entorno aislado y construir un exploit multietapa para acceder a internet.
El incidente ha generado reacciones inmediatas en el ámbito político. El congresista estadounidense Greg Casar calificó lo sucedido como «extremadamente alarmante» y solicitó implementar pruebas de seguridad obligatorias, así como reportes transparentes de incidentes cibernéticos para empresas de desarrollo de IA.
El suceso se suma a las medidas adoptadas recientemente por el gobierno de Estados Unidos, que a través de una orden ejecutiva presidencial estableció un marco de evaluación previo de hasta 30 días para revisar los riesgos de seguridad nacional en los modelos de IA de mayor potencia antes de su distribución pública.
Síguenos en
Facebook: Análisis Noticias Online
Threads: @analisisnoticiasonline.
Instagram: analisisnoticiasonline
Bluesky: Análisis Noticias Online
TikTok: @analisisnoticiasonline
Linkedin: Análisis Noticias Online
You Tube: Análisis Noticias Online