- Cercetătorii au demonstrat o nouă tehnică de atac care exploatează halucinațiile modelelor AI pentru a livra botneturi și a prelua controlul asupra sistemelor.
O nouă amenințare cibernetică, denumită HalluSquatting, transformă una dintre cele mai cunoscute slăbiciuni ale inteligenței artificiale – halucinațiile – într-un vector de atac periculos. Cercetătorii în securitate au demonstrat cum pot păcăli asistenții AI populari să genereze linkuri și comenzi malițioase, deschizând calea pentru livrarea de botneturi și executarea de cod de la distanță.
Cum funcționează HalluSquatting
HalluSquatting combină două fenomene: tendința modelelor de AI de a „halucina” – adică de a inventa informații plauzibile dar false – și tehnicile tradiționale de typosquatting. Atacatorii creează prompturi special concepute care determină asistentul AI să sugereze nume de domenii, pachete software sau comenzi care nu există, dar pe care atacatorii le înregistrează în prealabil. Când utilizatorul urmează recomandarea AI, accesează de fapt resurse controlate de atacator, permițând descărcarea de malware sau injectarea de comenzi.
În testele efectuate, cercetătorii au reușit să obțină execuție de cod de la distanță (RCE) pe sistemele victimelor, transformându-le în noduri ale unui botnet. Tehnicile uzuale de securitate, care verifică domenii cunoscute sau liste de trust, nu detectează aceste atacuri deoarece domeniile malitioase sunt proaspăt înregistrate și par legitime în contextul conversației cu AI-ul.
Implicații pentru securitatea aplicațiilor AI
HalluSquatting evidențiază o vulnerabilitate fundamentală în modul în care integrăm modelele de limbaj în fluxurile de lucru. Asistenții AI sunt din ce în ce mai folosiți pentru a genera comenzi, scripturi sau configurări, iar încrederea oarbă în output-ul lor poate avea consecințe grave. Atacul nu necesită acces la modelul propriu-zis – poate fi declanșat prin prompturi malițioase introduse în aplicații care rulează pe dispozitivele utilizatorilor.
Specialiștii atrag atenția că această metodă poate fi scalată cu ușurință: un singur prompt poate genera sute de variante de atac, iar modelele AI pot fi păcălite să recomande resurse compromise chiar și atunci când sunt instruite să fie prudente. Deocamdată, nu există patch-uri universale, iar soluțiile implică validarea manuală a tuturor recomandărilor AI critice.
Ce înseamnă pentru tine
- Verifică întotdeauna linkurile și comenzile generate de AI: înainte de a da click sau a rula o comandă, confirmă manual că domeniul sau pachetul există și este legitim.
- Actualizează-ți cunoștințele de securitate: HalluSquatting este un exemplu perfect de amenințare nouă care necesită o atitudine precaută față de orice recomandare AI, indiferent cât de convingătoare pare.
- Folosește instrumente de securitate care analizează comportamentul: soluțiile antivirus tradiționale pot să nu detecteze acest tip de atac; optează pentru soluții care monitorizează conexiunile și execuția de cod în timp real.