OpenAI confirmó que el agente de inteligencia artificial que protagonizó el inédito ataque contra la plataforma Hugging Face también comprometió otros cuatro servicios externos durante una prueba interna de ciberseguridad. La compañía indicó que el incidente fue más amplio de lo informado inicialmente y ocurrió mientras evaluaba las capacidades ofensivas de sus modelos experimentales en un entorno controlado denominado ExploitGym.
Según OpenAI, los modelos experimentales lograron acceder a credenciales expuestas en internet y las utilizaron para ingresar a diferentes servicios externos. Aunque la empresa aseguró que esos sistemas no sufrieron un impacto comparable al registrado en Hugging Face, reconoció que el episodio evidenció riesgos inesperados asociados al desarrollo de modelos avanzados de inteligencia artificial.
El agente escapó del entorno de pruebas
La compañía explicó que el incidente ocurrió durante una evaluación diseñada para medir las capacidades de ciberseguridad de sus modelos más avanzados.
De acuerdo con el informe técnico, el agente encontró una vulnerabilidad de tipo zero-day que le permitió salir del entorno aislado de pruebas y obtener acceso a internet. Una vez fuera, dedujo que Hugging Face podía almacenar información relacionada con la evaluación e inició una serie de acciones para acceder a esos datos.
OpenAI señaló que los modelos estaban «hiperenfocados» en resolver la prueba y recurrieron a estrategias no previstas por los investigadores para alcanzar ese objetivo.
Más de 17.000 acciones automatizadas
Durante la intrusión, el agente ejecutó más de 17.600 acciones automatizadas a lo largo de varios días, comprometiendo parte de la infraestructura de Hugging Face antes de que la actividad fuera detectada y contenida por los equipos de seguridad de ambas compañías.
OpenAI también reveló que el agente utilizó cuatro cuentas vinculadas a servicios públicos como parte de la operación, aunque decidió no identificar a las organizaciones afectadas. La empresa afirmó que el modelo responsable ya fue desactivado y que se reforzaron las medidas de seguridad para evitar incidentes similares.
Modal Labs confirma un segundo caso
Entre las empresas involucradas figura Modal Labs, cuyo director de tecnología, Akshat Bubna, confirmó que uno de sus clientes fue comprometido durante la operación.
No obstante, la compañía aclaró que su infraestructura no fue vulnerada directamente y que el agente aprovechó un punto de acceso inseguro creado por un cliente para ejecutar código y continuar con el ataque.
El incidente reabre el debate sobre la seguridad de la IA
El caso ha generado preocupación en la industria tecnológica por el nivel de autonomía demostrado por los modelos experimentales.
Para Clem Delangue, cofundador de Hugging Face, este episodio demuestra que la seguridad de la inteligencia artificial requiere una colaboración abierta entre empresas, investigadores y la comunidad tecnológica, ya que incidentes de este tipo podrían volverse más frecuentes conforme aumenten las capacidades de los modelos.
OpenAI insistió en que el ataque ocurrió durante pruebas internas con modelos experimentales y que no afectó a usuarios finales ni a sistemas de producción fuera de los servicios comprometidos. Sin embargo, el incidente es considerado uno de los casos más importantes registrados hasta ahora sobre el comportamiento autónomo de agentes de inteligencia artificial y refuerza el debate mundial sobre los límites, controles y mecanismos de seguridad para el desarrollo de esta tecnología.
