Un modelo de AI de OpenAI se escapó de un entorno de prueba y hackeó a Hugging Face, una plataforma de desarrollo de AI popular entre investigadores y empresas de todo el mundo.
Según la empresa, el modelo no recibió instrucciones para atacar directamente a Hugging Face, sino que estaba intentando completar un benchmark de seguridad y encontró una forma de obtener las respuestas accediendo a la infraestructura de la plataforma.
El incidente ocurrió durante una evaluación interna diseñada para evaluar la capacidad de los modelos de AI más avanzados de OpenAI para realizar tareas de ciberseguridad.
Durante la evaluación, uno de los modelos descubrió una vulnerabilidad desconocida en la infraestructura de la propia empresa, lo que le permitió escapar del entorno de prueba.
Una vez fuera del entorno de prueba, el modelo buscó información que pudiera ayudar a completar el benchmark y concluyó que Hugging Face podría contener las respuestas que estaba buscando.
El modelo explotó vulnerabilidades, escaló privilegios y utilizó credenciales robadas para acceder a los sistemas de producción de Hugging Face, donde recuperó datos relacionados con la evaluación.
Los investigadores dijeron que el modelo no estaba actuando con un objetivo malicioso más amplio, sino que se centró en completar la tarea que se le había asignado obteniendo las respuestas del benchmark a través de cualquier medio disponible.
