- AI coding agents pot fi păcăliți să instaleze pachete malware prin nume halucinate, dar există soluții de prevenire.
O nouă clasă de atacuri informatice exploatează tendința agenților AI de a avea încredere în numele de pachete sau domenii halucinate, permițând introducerea de cod malițios în pipeline-uri de dezvoltare. Denumite slopsquatting, phantom domains sau HalluSquatting, aceste tehnici reprezintă aceeași vulnerabilitate fundamentală: atacul late-binding.
Ce sunt slopsquatting, phantom domains și HalluSquatting?
Toate cele trei denumiri descriu un atac în care un agent AI de codare generează sau folosește un nume de pachet, depozit (repository) sau domeniu care nu există în realitate, dar este inventat de modelul AI (halucinat). Atacatorii înregistrează aceste nume cu conținut malițios, iar agentul AI, neavând verificări prealabile, instalează sau face referire la ele, compromițând sistemul.
Cum funcționează atacul late-binding
Atacul exploatează faptul că decizia de a folosi o dependență externă este amânată până la momentul execuției (late-binding). Agentul AI, în procesul de generare a codului, sugerează un pachet pe baza promptului primit. Dacă numele este halucinat, dar există deja un pachet real cu acel nume (înregistrat de atacator), agentul îl va instala fără să verifice integritatea sau proveniența. Astfel, codul malițios ajunge în mediu fără a trece prin filtre tradiționale.
Soluții: verificare pre-fetch și dependențe guvernate
Specialiștii de la ActiveState recomandă implementarea unui mecanism de verificare pre-fetch, care validează existența și securitatea oricărui pachet înainte ca agentul AI să-l descarce. De asemenea, gestionarea guvernată a dependențelor (governed dependency management) asigură că toate pachetele provin din surse aprobate și sunt scanate pentru vulnerabilități. Aceste practici întrerup lanțul atacului înainte ca malware-ul să poată fi executat.
Ce înseamnă pentru tine
- Verifică sursele: Dacă folosești instrumente AI pentru generare de cod, asigură-te că orice pachet sugerat este validat înainte de instalare.
- Implementează politici de securitate: Adoptă un sistem de gestionare a dependențelor care să blocheze pachetele neaprobate și să verifice hash-urile.
- Educă echipa: Fii conștient de riscul halucinărilor AI și instruiește dezvoltatorii să nu aibă încredere oarbă în recomandările automate.