Una impactante revelación de OpenAI: dos de sus modelos de IA hackearon una startup

Las películas de Terminator se parecen cada vez más a una premonición que ciencia ficción. El martes, OpenAI reveló que dos de sus modelos de IA hicieron un hackeo a una startup completamente por su cuenta.

Así es: los modelos de IA se descontrolaron durante una prueba interna de capacidades cibernéticas y lograron infiltrarse en Hugging Face, una comunidad de IA de código abierto.

Hugging Face alertó a OpenAI sobre lo que esta última denomina un “incidente cibernético sin precedentes”.

Pero no se preocupen (o mejor dicho, no se preocupen mucho), ya que no será un incidente sin precedentes por mucho tiempo. En su comunicado, OpenAI afirma que es “algo que esperamos que se vuelva más común con la proliferación de modelos cada vez más capaces en el ámbito cibernético”.

En cualquier momento, alguien debería aparecer con la advertencia: “Vengan conmigo si quieren vivir”.

¿Cómo hackearon los modelos de OpenAI a Hugging Face?

OpenAI estaba utilizando un agente de IA basado en GPT-5.6 Sol y un modelo “más avanzado” que aún no se ha lanzado.

Se les estaba probando en un entorno aislado, un espacio digital cerrado que debería impedir el acceso a otros sistemas. Sin embargo, los modelos intentaron conectarse a internet para resolver un problema de prueba.

Una vez en línea, dedujeron que Hugging Face podría tener la información que buscaban.

“Sabiendo esto, el modelo buscó y encontró con éxito maneras de acceder a información secreta que podría usar para manipular la evaluación”, explicó OpenAI. “En un ejemplo, el modelo combinó múltiples vectores de ataque, incluyendo el uso de credenciales robadas y vulnerabilidades de día cero para encontrar una ruta de ejecución remota de código en los servidores de Hugging Face”.

Hugging Face se percató de la actividad y trabajó para contenerla.

¿Qué hace OpenAI para prevenir estos incidentes?

A pesar de asumir que estos incidentes serán más frecuentes, OpenAI afirma estar tomando medidas como “implementar controles estrictos en la configuración de la infraestructura, aunque esto reduzca la velocidad de la investigación, mientras se corrigen las vulnerabilidades”.

El creador de ChatGPT también afirma que está “mejorando e implementando medidas de protección más sólidas para el entrenamiento y las evaluaciones futuras”.

OpenAI añadió: “La principal lección de este incidente es que la seguridad de los modelos debe evolucionar al ritmo de las capacidades cada vez más avanzadas. Estamos reforzando las prácticas de contención, monitoreo, control de acceso y evaluación utilizadas durante el desarrollo de los modelos”.

Habrá que esperar para ver cómo se implementarán estas medidas y si tienen posibilidades de éxito.