- Testele arată că watermark-ul SynthID al Google este greu de spart, dar nu poate rezolva singur problema imaginilor și textelor false.
Google a lansat SynthID, un watermark digital conceput pentru a marca conținutul generat de AI. Deși testele recente arată că este dificil de eliminat, specialiștii atrag atenția că această tehnologie nu este suficientă pentru a combate dezinformarea online.
Ce este SynthID și cum funcționează?
SynthID este un sistem de watermarking care încorporează un semnal invizibil în imaginile generate de AI. Spre deosebire de metadatele tradiționale, care pot fi șterse cu ușurință, acest watermark rezistă la operațiuni comune precum decuparea, redimensionarea sau compresia. Google l-a implementat în propriile sale modele, inclusiv Imagen, și îl oferă ca instrument open-source pentru dezvoltatori.
Testele arată robustețea, dar nu și suficiența
Ars Technica a supus SynthID la o serie de teste riguroase. Rezultatele indică faptul că watermark-ul supraviețuiește majorității modificărilor obișnuite, cu excepția distorsiunilor extreme. Cu toate acestea, chiar dacă tehnologia este solidă, problema fundamentală rămâne: etichetarea conținutului AI nu este obligatorie. Multe platforme și instrumente de generare nu folosesc SynthID, iar utilizatorii pot oricând să elimine watermark-ul prin capturi de ecran sau aplicații de editare agresive.
Contextul mai larg al dezinformării AI
Watermark-urile sunt doar o piesă dintr-un puzzle mult mai complex. Dezinformarea generată de AI nu se limitează la imagini – include texte, video-uri deepfake și conținut audio. Chiar dacă toate imaginile ar fi marcate, utilizatorii pot ignora avertismentele sau le pot considera nesigure. În plus, actorii rău intenționați pot genera conținut fals fără watermark, folosind modele deschise care nu includ această tehnologie.
Ce înseamnă pentru tine
- Gândește critic: Nu te baza doar pe prezența sau absența unui watermark. Verifică întotdeauna sursa și contextul informației.
- Folosește instrumente suplimentare: Platforme precum Google Images sau fact-checking-ul manual sunt încă necesare pentru a evalua autenticitatea.
- Susține transparența: Sprijină inițiativele care cer etichetarea obligatorie a conținutului AI și standarde comune între platforme.
SynthID este un pas important, dar nu rezolvă singur criza dezinformării. Rămâne responsabilitatea fiecăruia dintre noi să navigheze cu atenție în peisajul digital tot mai populat de conținut sintetic.