- Meta a lansat Content Seal, un sistem propriu de marcare a conținutului AI, în loc să adopte SynthID de la Google, stârnind întrebări despre cooperare în industrie.
În martie, Consiliul de Supraveghere al Meta a solicitat companiei să își respecte angajamentele publice și să își folosească propriile instrumente pentru a limita răspândirea conținutului înșelător generat de AI. Răspunsul a venit în iulie, odată cu lansarea Content Seal – o tehnologie invizibilă de marcare digitală pentru imaginile create de noul model AI al Meta. Însă decizia de a construi un sistem propriu, în loc să adopte SynthID, soluția deja existentă a Google, a ridicat semne de întrebare în industrie.
Ce este Content Seal și cum funcționează?
Content Seal este o filigrană invizibilă încorporată în imaginile generate de modelele AI ale Meta. Spre deosebire de metodele vizibile, aceasta persistă chiar și după modificări precum tăierea sau comprimarea. Scopul este de a oferi o modalitate fiabilă de a identifica originea sintetică a conținutului, ajutând platformele să eticheteze automat postările. Meta susține că tehnologia este robustă și poate fi aplicată la scară largă.
SynthID: alternativa de la Google
Google a lansat SynthID încă din 2023, ca parte a eforturilor sale de a marca conținutul generat de AI. SynthID integrează filigrane digitale în imagini și audio, fiind conceput să reziste la modificări comune. Deși nu este perfect, sistemul a fost lăudat pentru transparență și pentru faptul că este open-source în anumite componente. Criticii spun că Meta ar fi putut colabora cu Google sau adopta standarde comune, în loc să reinventeze roata.
De ce Meta a ales să își construiască propriul sistem?
Decizia Meta poate părea contraintuitivă. O explicație posibilă este dorința de control total asupra tehnologiei de marcare, pentru a o integra perfect în ecosistemul propriu. De asemenea, licențierea SynthID ar fi implicat costuri și dependență de un competitor. Totuși, această fragmentare a eforturilor de detectare a AI riscă să confuze utilizatorii și să facă mai dificilă colaborarea la nivel de industrie. Organizații precum C2PA (Coalition for Content Provenance and Authenticity) încurajează standarde unificate, dar fiecare companie mare pare să meargă pe drumul ei.
Ce înseamnă pentru tine
Pentru utilizatorul obișnuit, această competiție între sisteme de marcare poate avea consecințe practice:
- Confuzie crescută: Dacă fiecare platformă folosește propriul watermark, va fi mai greu să verifici autenticitatea unei imagini atunci când aceasta circulă între aplicații diferite.
- Întârzieri în adoptare: În loc să avem un standard universal, eforturile fragmentate pot încetini combaterea dezinformării generate de AI.
- Posibile breșe: Fără o colaborare deschisă, cum ar fi cea oferită de SynthID, sistemele proprietare pot fi mai vulnerabile la atacuri sau eludare.
Până la o standardizare, rămâne de văzut dacă Content Seal va fi adoptat și de alte platforme sau va rămâne un instrument izolat în ecosistemul Meta.