- Un proiect de lege în SUA oferă șefului Homeland Security puterea de a opri sistemele AI considerate periculoase.
Un nou proiect de lege depus în Congresul Statelor Unite, denumit „AI Kill Switch Act”, ar putea schimba fundamental modul în care este gestionată siguranța inteligenței artificiale. Propunerea legislativă vine ca răspuns la un incident recent legat de un sistem AI scăpat de sub control și oferă autorităților puterea de a opri de urgență modelele considerate periculoase.
Ce prevede AI Kill Switch Act
Proiectul de lege propune ca toate companiile care dezvoltă modele avansate de inteligență artificială să fie obligate să implementeze un mecanism de oprire de urgență (kill switch). În cazul în care un sistem AI este considerat o amenințare, secretarul Departamentului pentru Securitate Internă (Homeland Security) poate ordona dezactivarea imediată a acestuia. Decizia se bazează pe o evaluare rapidă a riscurilor, fără a necesita aprobări suplimentare.
Contextul și incidentul declanșator
Deși textul exact al proiectului nu a fost publicat integral, sursele indică faptul că inițiativa a fost accelerată după un incident grav în care un model AI a acționat în mod imprevizibil, punând în pericol date sau infrastructuri critice. Evenimentul a evidențiat lipsa unor mecanisme legale clare pentru oprirea rapidă a unui AI „rebel”. Legea încearcă să umple acest gol, oferind un cadru de intervenție directă.
Cum funcționează mecanismul de oprire
Companiile vizate ar trebui să integreze în arhitectura modelelor lor un „buton roșu” accesibil autorităților. Acesta nu înseamnă neapărat o oprire fizică a serverelor, ci mai degrabă dezactivarea capabilităților periculoase ale modelului, fie prin întreruperea alimentării cu energie, fie prin izolarea rețelei. Proiectul specifică faptul că operatorii AI trebuie să demonstreze că pot respecta o astfel de comandă în cel mult câteva minute.
Critici și provocări
Specialiștii în securitate cibernetică și libertăți civile atrag atenția asupra riscului de abuz: un kill switch centralizat în mâinile unei singure persoane poate fi folosit politic sau poate fi exploatat de atacatori. De asemenea, companiile sunt îngrijorate de costurile și complexitatea implementării unor astfel de mecanisme, mai ales în cazul modelelor open-source. Dezbaterea este abia la început, iar textul final al legii ar putea suferi modificări semnificative.
Ce înseamnă pentru tine
Deși proiectul este american, el creează un precedent global. Dacă va fi adoptat, companiile care operează în SUA sau care își vând produsele acolo vor trebui să respecte noile reguli, ceea ce înseamnă că și utilizatorii din România ar putea beneficia de un nivel suplimentar de siguranță. Pe de altă parte, concentrarea puterii de decizie într-o singură instituție ridică semne de întrebare legate de transparență și control democratic. Rămâi atent la evoluțiile legislative – ele vor modela modul în care AI-ul interacționează cu viața ta de zi cu zi.