- Discord a recunoscut că o eroare în sistemul AI de moderare a interzis în mod eronat peste 8.000 de utilizatori pentru imagini inofensive.
Discord a confirmat recent că un bug în sistemul său de moderare bazat pe inteligență artificială a dus la interzicerea greșită a peste 8.000 de utilizatori în ultimele două luni. Imaginile inofensive – precum foi de calcul, table de șah, texturi de jocuri și fundaluri albe sau gri transparente – au fost marcate incorect drept conținut dăunător. Problema a afectat conturile începând din mai 2026, iar compania lucrează acum la remediere.
Contextul problemei
Discord folosește un sistem AI pentru a scana automat imaginile încărcate de utilizatori, cu scopul de a detecta conținut interzis, cum ar fi materiale grafice violente sau ilegale. Deși utilă, această tehnologie se bazează pe modele de recunoaștere care pot da greș atunci când întâlnesc elemente vizuale neobișnuite. În acest caz, algoritmul a clasificat incorect imagini complet banale ca fiind periculoase, ceea ce a declanșat sancțiuni automate.
Cum s-a manifestat eroarea
Bug-ul a fost activ timp de aproximativ două luni, timp în care peste 8.000 de utilizatori au primit interdicții fără justificare reală. Printre imaginile incriminate s-au numărat capturi de ecran cu foi de calcul, fotografii cu table de șah, texturi din jocuri video și chiar imagini cu fundaluri simple, alb sau gri transparent. Acestea nu prezentau niciun risc, însă AI-ul le-a tratat ca pe conținut interzis. Utilizatorii afectați au fost nevoiți să conteste decizia, iar mulți au pierdut accesul la conturi și comunități importante.
Reacția Discord și măsuri
Discord a recunoscut public eroarea și a anunțat că investighează cauza exactă. Compania a restabilit conturile utilizatorilor afectați și a promis că va îmbunătăți sistemul de moderare pentru a preveni incidente similare. De asemenea, intenționează să implementeze un proces de verificare manuală înainte de aplicarea sancțiunilor automate, pentru a reduce riscul de erori. Rămâne de văzut cât de eficiente vor fi aceste măsuri pe termen lung.
Ce înseamnă pentru tine
Dacă folosești Discord, este bine să știi că sistemele AI de moderare nu sunt perfecte și pot genera interdicții nejustificate. În cazul în care primești o sancțiune pe care o consideri eronată, contactează imediat suportul Discord și contestă decizia. De asemenea, evită încărcarea de imagini care ar putea fi interpretate ambiguu de către algoritmi – deși nu ar trebui să fie necesar, această precauție te poate scuti de neplăceri. Pe măsură ce platformele își îmbunătățesc sistemele, rămâi vigilent și verifică periodic notificările contului tău.