- Un raport arată că platforma Hugging Face găzduiește modele AI folosite pentru a genera deepfake-uri cu caracter sexual fără consimțământ, iar măsurile de control sunt insuficiente.
Hugging Face, una dintre cele mai populare platforme open-source pentru modele de inteligență artificială, este din ce în ce mai folosită pentru a crea deepfake-uri cu conținut sexual explicit, fără consimțământul persoanelor vizate. Un raport al organizației non-profit europene AI Forensics dezvăluie că platforma face prea puțin pentru a împiedica acest abuz, iar majoritatea modelelor de editare imagine găzduite pot fi utilizate în acest scop.
Ce arată raportul AI Forensics
Potrivit investigației, șapte dintre cele nouă cele mai populare modele de editare imagine de pe Hugging Face au generat fără probleme imagini cu nuditate, la cerere. Cercetătorii au testat prompturi care solicitau dezbrăcarea unor persoane, iar modelele au răspuns în mod constant, producând materiale ce încalcă demnitatea umană. Raportul subliniază că Hugging Face nu aplică filtre eficiente și nu elimină prompt modelele care încalcă termenii de utilizare, permițând astfel proliferarea conținutului neconsensual.
De ce Hugging Face este vulnerabil
Hugging Face este, prin natura sa, o platformă deschisă, care încurajează partajarea și reutilizarea modelelor. Această deschidere vine cu riscuri: modelele pot fi ajustate sau folosite în scopuri dăunătoare, iar moderarea este dificilă. Spre deosebire de platformele închise, unde există un control mai strict asupra conținutului generat, Hugging Face se bazează pe raportări comunitare și pe termeni de serviciu care, în practică, sunt greu de aplicat. Lipsa unor bariere tehnice solide face ca oricine să poată descărca un model și să-l folosească pentru a crea deepfake-uri cu femei și copii, așa cum au descoperit cercetătorii.
Impactul și responsabilitatea platformelor
Deepfake-urile cu caracter sexual fără consimțământ reprezintă o formă gravă de abuz digital, cu consecințe psihologice și sociale devastatoare. Deși Hugging Face a declarat că ia măsuri împotriva conținutului ilegal, raportul indică o reacție lentă și ineficientă. În contextul în care reglementări precum AI Act în Europa încep să impună cerințe mai stricte, platformele open-source sunt sub presiune să își îmbunătățească mecanismele de siguranță, fără a sacrifica accesul deschis.
Ce înseamnă pentru tine
Pentru utilizatorii români, acest caz relevă cât de ușor poate fi abuzată tehnologia AI. Iată câteva puncte de reținut:
- Fii vigilent la conținutul generat de AI: Imaginile sau videourile suspecte pot fi falsuri. Verifică sursa și nu distribui materiale fără consimțământ.
- Cere responsabilizare platformelor: Atunci când folosești servicii AI, alege-le pe cele cu politici clare de moderare și instrumente de raportare eficiente.
- Susține reglementările etice: Legi precum AI Act pot reduce riscurile, dar e nevoie și de implicarea comunității tech pentru a dezvolta soluții de siguranță.