O echipă de cercetători de la Universitatea din Toronto a demonstrat un concept proof-of-care îngrijorător: un vierme informatic acționat de inteligență artificială, capabil să se replice autonom și să genereze strategii de atac personalizate, folosind exclusiv modele open-source găzduite local. Spre deosebire de atacurile anterioare bazate pe AI, acesta nu necesită acces la servicii cloud comerciale, ceea ce îl face mai greu de detectat și mai accesibil pentru atacatori.
Ce este acest worm AI?
Viermele (worm) este un program malware care se răspândește singur în rețea, fără a necesita acțiunea utilizatorului. În acest caz, el folosește un model de limbaj mare (LLM) open-weight, rulează local pe fiecare mașină infectată, pentru a înțelege mediul și a decide ce exploit să folosească. Cercetătorii au publicat un preprint pe arXiv descriind modul în care worm-ul poate să își adapteze atacul în funcție de țintă, să se复制 și să avanseze, totul fără intervenție umană.
Cum funcționează?
Odată ce worm-ul infectează un sistem, el rulează un model LLM local (de exemplu, Llama 3 sau Mistral) pentru a analiza configurația rețelei, a identifica vulnerabilități și a genera comenzi specifice. Deoarece modelul este găzduit local, nu există apeluri către API-uri externe care ar putea fi monitorizate. Apoi, worm-ul se复制 la următoarea mașină folosind metode standard de propagare (e-mail, partajare de fișiere, exploatări de rețea). Pe noua mașină, procesul se repetă, generând o nouă strategie adaptată contextului respectiv.
Implicații și riscuri
Deși este doar un concept de cercetare, implicațiile sunt serioase. Un astfel de worm ar putea fi folosit pentru atacuri automate, cu auto-optimizare, fără a lăsa urme în cloud. Deoarece modelele open-source devin din ce în ce mai capabile, iar hardware-ul local poate rula LLM-uri eficiente, bariera tehnică pentru atacatori scade. Pe de altă parte, cercetarea ajută la identificarea unor metode de detectare și apărare specifice.
Concluzie: Acest worm AI marchează o nouă eră a amenințărilor cibernetice, în care inteligența artificială devine atât scut, cât și sabie. Pentru companii și utilizatori, este esențial să își actualizeze practicile de securitate, să monitorizeze traficul intern și să adopte soluții de detectare a comportamentelor anormale bazate pe AI.