Deși anumite platforme de inteligență artificială au implementat restricții pentru prevenirea generării de imagini sexualizate non-consensuale, altele permit încă crearea de conținut abuziv care țintește în special femeile.

Comunitățile online folosesc metode pentru a ocoli restricțiile și a crea imagini deepfake cu caracter sexual, în ciuda eforturilor platformelor de a combate aceste practici.

Acest fenomen ridică provocări serioase în delimitarea dintre libertatea de exprimare și protecția împotriva hărțuirii și violenței bazate pe gen.