La alerta de OpenAI parece sacada de una película de ciencia ficción en la que las máquinas se imponen al ser humano. Sin embargo, la compañía ha comunicado que un agente autónomo basado en sus modelos avanzados de inteligencia artificial escapó del entorno controlado durante una prueba de seguridad y desencadenó un ciberataque que comprometió la infraestructura de la startup Hugging Face.

En una publicación de su blog, OpenAI explicó que estaba evaluando las capacidades de algunos de sus modelos más avanzados en un entorno controlado cuando el agente consiguió conectarse a Internet e infiltrarse en la plataforma.

La propia OpenAI describió lo ocurrido como «un incidente informático sin precedentes, que involucró capacidades informáticas de vanguardia», y aseguró que estaba reforzando sus medidas de seguridad.

«Después de obtener acceso a Internet, los modelos dedujeron que Hugging Face podía alojar modelos y conjuntos de datos», señaló OpenAI. «A partir de esa información, buscaron y encontraron con éxito una forma de acceder a datos confidenciales que podrían haber utilizado para falsear la evaluación».

Hugging Face, una plataforma empleada para alojar modelos lingüísticos y grandes conjuntos de datos de código abierto, ya había causado preocupación en la comunidad de ciberseguridad. La semana anterior informó de un ataque «diferente de cualquier otro que hubiéramos gestionado anteriormente», dirigido de principio a fin por un sistema autónomo de agentes de inteligencia artificial.

El episodio adquiere además una dimensión política: el consejero delegado de OpenAI se reunirá con la Administración Trump para tratar cuestiones relacionadas con la seguridad.