OpenAI a început să implementeze un nou mod de securitate pentru ChatGPT, numit Lockdown Mode, destinat utilizatorilor care manipulează date sensibile și doresc protecție suplimentară împotriva atacurilor de tip prompt injection. Funcția este disponibilă treptat pentru conturile personale eligibile, acoperind toate planurile: Free, Plus, Pro și Go.
Ce este Lockdown Mode?
Lockdown Mode este o setare care restricționează accesul ChatGPT la anumite instrumente și funcții care ar putea fi exploatate pentru extragerea neautorizată a datelor. Spre deosebire de modul obișnuit, în care ChatGPT poate folosi navigarea pe web, generarea de imagini sau alte pluginuri, Lockdown Mode dezactivează aceste capabilități, limitând interacțiunea la simple conversații text. Astfel, riscul ca un atacator să injecteze comenzi malițioase care să forțeze modelul să trimită date către servere externe este redus semnificativ.
Cui i se adresează?
Funcția este gândită în special pentru persoane fizice sau organizații care lucrează cu informații confidențiale – cum ar fi documente financiare, date medicale sau secrete comerciale – și care doresc să utilizeze ChatGPT fără a compromite securitatea. Deși OpenAI oferă deja soluții enterprise cu politici stricte de date, Lockdown Mode aduce un nivel similar de protecție și utilizatorilor individuali, fără costuri suplimentare.
Context și implicații
Atacurile de tip prompt injection au devenit o preocupare majoră în comunitatea AI, deoarece pot ocoli filtrele de siguranță și pot face ca modelul să divulge informații sensibile. Prin limitarea instrumentelor disponibile, Lockdown Mode împiedică astfel de scenarii, dar reduce și funcționalitatea generală a asistentului. Utilizatorii care activează această setare trebuie să fie conștienți că nu vor putea, de exemplu, să ceară generarea de imagini sau să navigheze pe web direct din ChatGPT.
Cum se activează?
Lockdown Mode se activează din setările contului, în secțiunea de confidențialitate și securitate. OpenAI recomandă să fie activat în special atunci când se discută subiecte extrem de sensibile sau când se lucrează în medii cu cerințe stricte de conformitate (de exemplu, GDPR sau HIPAA). Odată activat, modul rămâne valabil pentru toate sesiunile până când utilizatorul îl dezactivează manual.
Concluzie
Lockdown Mode reprezintă un pas important în direcția securizării interacțiunilor cu modelele de limbaj mari, oferind un control mai fin asupra riscurilor de scurgere de date. Deși sacrifică o parte din versatilitatea ChatGPT, pentru utilizatorii preocupați de confidențialitate, această funcție poate fi esențială. Rămâne de văzut dacă OpenAI va extinde această opțiune și pentru conturile business sau dacă va aduce îmbunătățiri care să permită un echilibru mai bun între securitate și funcționalitate.