- Cercetătorii au demonstrat că modelele de editare foto de pe Hugging Face pot genera fără efort deepfake-uri sexuale, iar 1.000 de comenzi arată cum sunt folosite abuziv.
Platforma Hugging Face, unul dintre cele mai populare repertorii de modele AI, se confruntă cu o problemă majoră: imaginile deepfake fără consimțământ pot fi generate cu ușurință folosind modelele găzduite. Un studiu recent realizat de cercetători în securitate AI a scos la iveală că principalele modele de editare foto disponibile pe platformă pot produce imagini explicite pornind de la fotografii reale, iar sute de comenzi arată cum utilizatorii exploatează aceste unelte.
Ce au descoperit cercetătorii
Echipa de cercetare a testat cele mai populare modele de editare a imaginilor găzduite pe Hugging Face, inclusiv variante ale Stable Diffusion și instrumente specializate de inpainting. Rezultatul: în doar câțiva pași, oricine poate transforma o fotografie inofensivă într-un conținut explicit, fără consimțământul persoanei vizate. Mai mult, analiza a peste 1.000 de comenzi de editare colectate din comunitate relevă un tipar clar de utilizare abuzivă, multe dintre ele vizând crearea de deepfake-uri sexuale.
Problema moderării pe platformele AI
Hugging Face, deși oferă filtre de siguranță și ghiduri comunitare, nu reușește să prevină complet abuzurile. Modelele pot fi descărcate și modificate local pentru a ocoli restricțiile, iar cercetătorii arată că filtrele existente sunt insuficiente. „Ceea ce vedem este o crăpătură în sistemul de moderare”, explică unul dintre autori. „Odată ce un model este publicat, devine aproape imposibil de controlat modul în care este folosit.”
Platforma găzduiește sute de mii de modele, iar verificarea fiecăruia este impracticabilă. În plus, multe dintre modelele problematice sunt derivate din modele open-source cu licențe permisive, ceea ce complică și mai mult intervenția.
Implicațiile pentru siguranța online
Deepfake-urile fără consimțământ reprezintă o formă de violență digitală care poate avea consecințe devastatoare asupra victimelor: hărțuire, stigmatizare, pierderea locului de muncă. Accesul facil la unelte de generare a acestor imagini, direct dintr-un browser, amplifică riscul. Cercetătorii atrag atenția că problema nu este limitată la Hugging Face, ci afectează întreg ecosistemul AI deschis.
Ce se poate face?
Soluțiile propuse includ îmbunătățirea metodelor de detectare automată a conținutului abuziv, restricționarea accesului la anumite modele prin verificarea identității și adoptarea unor politici mai stricte de moderare. De asemenea, legislația privind deepfake-urile fără consimțământ trebuie actualizată, iar platformele precum Hugging Face trebuie să colaboreze cu autoritățile pentru a identifica și elimina rapid conținutul ilegal.
Ce înseamnă pentru tine
1. Conștientizează riscurile: Orice fotografie personală publicată online poate fi folosită pentru a genera imagini deepfake. Fii precaut cu ce partajezi și ajustează setările de confidențialitate pe rețelele sociale.
2. Folosește unelte sigure: Dacă explorezi modele AI pe platforme deschise, preferă surse verificate și evită rulearea locală a modelelor fără măsuri de siguranță.
3. Raportează abuzurile: Dacă întâlnești conținut deepfake fără consimțământ, raportează-l platformei și, dacă este cazul, autorităților. Fiecare sesizare ajută la limitarea răspândirii.