- Un nou tip de atac, numit HalluSquatting, exploatează alucinațiile modelelor lingvistice pentru a crea rețele masive de botneturi.
O nouă amenințare cibernetică profită de una dintre cele mai cunoscute slăbiciuni ale inteligenței artificiale: tendința de a inventa informații. Cercetătorii de securitate au descoperit un atac numit „HalluSquatting”, care transformă alucinațiile modelelor lingvistice (LLM) într-o unealtă pentru construirea de botneturi uriașe.
Ce este HalluSquatting și cum funcționează
HalluSquatting este o tehnică prin care hackerii exploatează incapacitatea LLM-urilor de a spune „nu știu”. Atunci când un model AI nu are un răspuns cert, inventează adesea nume de biblioteci, pachete sau funcții care nu există. Atacatorii creează în prealabil aceste resurse false („squatting”) și le încarcă în depozite publice de cod. Victimele, de la dezvoltatori la utilizatori obișnuiți, solicită modelului AI o soluție, iar acesta sugerează una dintre resursele malițioase. Astfel, codul infectat este descărcat și executat, iar dispozitivul devine parte dintr-un botnet.
De ce este mai periculos decât părea
Nouă dintre cele mai populare instrumente AI sunt vulnerabile la acest tip de atac, inclusiv ChatGPT, Copilot și Gemini. Diferența față de atacurile clasice de tip „typosquatting” este amploarea: un model AI poate sugera aceeași resursă falsă mii de utilizatori simultan, generând un botnet masiv într-un timp record. În plus, alucinațiile sunt greu de depistat, deoarece modelele nu semnalează incertitudinea. Cercetătorii au demonstrat că un atac reușit poate compromite sute de mii de dispozitive în câteva ore.
Context și implicații pentru securitate
Acest atac evidențiază o lacună fundamentală în designul LLM-urilor: nu au un mecanism fiabil de a recunoaște limitele propriilor cunoștințe. Companiile tech încearcă să implementeze filtre, dar soluțiile sunt încă fragile. Pentru utilizatori, riscul este real: de la furtul de date la includerea în rețele de atac DDoS. Experții recomandă verificarea manuală a oricărui cod sugerat de AI și evitarea utilizării de resurse neverificate din depozite publice.
Ce înseamnă pentru tine
1. Nu instala automat pachetele sau bibliotecile recomandate de un AI fără să verifici sursa și popularitatea lor.
2. Folosește instrumente de securitate care detectează alucinațiile și blochează descărcările suspecte.
3. Fii sceptic chiar și față de soluțiile aparent corecte – alucinațiile sunt convingătoare. Protejează-ți dispozitivele actualizând constant software-ul și utilizând soluții anti-malware.