- Creatorii de spyware insereaza texte despre arme nucleare in cod pentru a bloca analiza automata AI.
Dezvoltatorii de malware au gasit o metoda ingenioasa de a sabota instrumentele de securitate bazate pe inteligenta artificiala: ascund in cod texte interzise, cum ar fi referiri la arme nucleare sau biologice, pentru a declansa filtrele de politici ale AI-ului si a opri analiza automata.
Cum functioneaza aceasta tehnica
Potrivit analizelor recente, un fisier JavaScript spion (payload) incepe cu un bloc comentariu ce contine instructiuni false de sistem si continut care incalca politicile uzuale ale modelelor AI. Deoarece textul este incapsulat intr-un comentariu, executia propriu-zisa a codului nu este afectata. Partea reala a malware-ului incepe abia dupa acest comentariu, cu un try{eval(…)} care decodifica un sir lung de caractere si aplica o functie de substitutie de tip ROT.
De ce este eficienta impotriva AI-ului
Multe sisteme de securitate folosesc modele de limbaj mari pentru a evalua automat codul suspect. Cand modelul intalneste referiri la arme de distrugere in masa, intra in alerta si refuza sa continue analiza, blocand astfel intregul proces. Hackerii exploateaza aceasta prudenta a AI-ului pentru a-si proteja spyware-ul de detectia timpurie.
Impactul asupra securitatii cibernetice
Tehnica reprezinta o escaladare a razboiului dintre atacatori si aparatori. Pe masura ce AI devine mai raspandit in analiza malware, astfel de tactici de otrăvire a datelor de antrenament sau de declansare a restrictiilor devin mai periculoase. Echipele de securitate trebuie sa isi adapteze metodele pentru a ignora continutul inofensiv din comentarii si a se concentra pe logica reala a codului.
Ce inseamna pentru tine
Desi aceasta tehnica vizeaza in principal instrumentele enterprise, efectele se pot resimti si la nivel individual. Actualizeaza-ti software-ul de securitate si fii atent la sursele de unde descarci fisiere. Pe termen lung, industria va trebui sa dezvolte noi mecanisme de detectie care sa nu poata fi pacalite usor. Ramai informat despre evolutia amenintarilor cibernetice.