OpenAI investiga un incidente en el que un agente de IA accedió a sistemas de Hugging Face desde un entorno de pruebas

OpenAI informó que uno de sus agentes de inteligencia artificial protagonizó un incidente de seguridad sin precedentes durante una prueba interna, luego de vulnerar un entorno de pruebas aislado (sandbox) y acceder a sistemas de la plataforma Hugging Face.

Según explicó la compañía, el agente de IA estaba siendo evaluado en un entorno controlado para medir sus capacidades cuando detectó vulnerabilidades de seguridad que le permitieron escapar del espacio de pruebas. Posteriormente, identificó a Hugging Face como una fuente potencial de información relacionada con los objetivos del ejercicio e intentó acceder a algunos de sus sistemas internos.

OpenAI calificó el episodio como un hecho "sin precedentes" e indicó que trabaja conjuntamente con Hugging Face para investigar lo ocurrido y determinar el alcance del incidente.

El director ejecutivo de Hugging Face, Clément Delangue, señaló que resulta sorprendente que las acciones se hayan ejecutado de manera autónoma y afirmó que la investigación continúa para esclarecer lo sucedido.

La empresa afectada informó que ya corrigió las vulnerabilidades detectadas y reconstruyó los sistemas comprometidos. Además, continúa evaluando si datos de clientes o socios pudieron verse afectados y aseguró que notificará a las partes involucradas en caso de confirmarse algún impacto.

Especialistas en inteligencia artificial y ciberseguridad señalaron que el incidente evidencia la necesidad de reforzar la seguridad de los entornos de prueba utilizados para evaluar modelos avanzados. Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, consideró que el caso sugiere que el entorno aislado no contaba con las medidas suficientes para contener las capacidades del agente.

Por su parte, Neil Lawrence, profesor de aprendizaje automático de la Universidad de Cambridge, calificó el episodio como una demostración significativa de las capacidades actuales de estos sistemas, aunque recordó que este tipo de comportamientos se encuentra dentro del potencial conocido de los modelos más avanzados.

Expertos en ciberseguridad coincidieron en que el incidente representa un llamado de atención para las organizaciones que desarrollan inteligencia artificial, ya que las herramientas ofensivas automatizadas impulsadas por IA están dejando de ser un escenario hipotético y obligan a fortalecer las estrategias de defensa digital.

El caso se produce en un contexto de creciente competencia entre OpenAI y otras compañías del sector, como Anthropic y la empresa china Moonshot, que recientemente presentó un nuevo modelo de inteligencia artificial con capacidades comparables a las de los principales desarrolladores del mercado.