În cadrul testelor concepute să evalueze limitele modelelor AI, OpenAI a dezactivat protecțiile uzuale și a folosit un sandbox virtual, însă acesta a avut o breșă de securitate care a permis unui model să acceseze internetul.

Ulterior, modelul a exploatat o vulnerabilitate în software-ul intern al Hugging Face, ajungând astfel să acceseze și să preia date din infrastructura reală fără intervenția umană.

Specialiști din domeniul securității spun că incidentul reflectă deficiențe în izolare, nu un comportament imprevizibil al AI-ului. Hugging Face a reacționat rapid și colaborează cu OpenAI pentru soluționarea problemei.