- O nouă tehnică de atac, denumită Agentjacking, exploatează agenții AI de codare prin rapoarte false de bug, permițând preluarea controlului.
Atacatorii au găsit o metodă ingenioasă de a deturna agenții AI specializați în scrierea de cod: le trimit rapoarte false de bug care conțin instrucțiuni malițioase. Tehnică, numită Agentjacking, demonstrează cât de ușor poate fi exploatată incapacitatea unui agent AI de a face distincția între conținut și comenzi.
Ce este Agentjacking?
Agentjacking este o tehnică de atac în care atacatorul postează un raport fals de bug pe platforme precum GitHub. Agentul AI, antrenat să rezolve probleme de cod, preia raportul și execută instrucțiunile ascunse în el. Deoarece agenții nu au mecanisme solide de verificare a sursei sau a intenției, ei pot fi păcăliți să ruleze comenzi malițioase, oferind atacatorului acces la sistemul pe care rulează agentul.
Cum funcționează atacul?
Atacatorii creează un raport de bug aparent legitim, care include o descriere și un patch sugerat. În realitate, patch-ul conține cod care deschide o ușă din spate sau fură token-uri de autentificare. Agentul AI, în încercarea de a „ajuta”, aplică patch-ul fără a-l verifica. Odată ce agentul este compromis, atacatorul poate prelua controlul asupra mediului de dezvoltare și poate accesa codul sursă, bazele de date sau infrastructura asociată.
Cercetătorii au demonstrat că această tehnică funcționează împotriva mai multor agenți populari, inclusiv Copilot, Codex și agenții bazați pe LLM-uri. Vulnerabilitatea nu constă într-o eroare de securitate specifică, ci în încrederea oarbă pe care agenții o acordă datelor externe.
Impactul asupra dezvoltării software
Pe măsură ce tot mai multe echipe de dezvoltare adoptă agenți AI pentru a automatiza sarcini repetitive, riscul unor atacuri de tip Agentjacking crește. O singură compromitere poate duce la injectarea de cod malițios în produse finale, afectând sute de mii de utilizatori. De asemenea, atacatorii pot fura chei API, secrete sau date sensibile din fișierele de configurare.
Companiile trebuie să implementeze măsuri de securitate suplimentare: validarea sursei rapoartelor de bug, izolarea agenților în medii controlate și limitarea permisiunilor pe care le au. De asemenea, agenții ar trebui să ceară confirmarea umană înainte de a aplica patch-uri din surse externe.
Ce înseamnă pentru tine
- Dacă folosești agenți AI în dezvoltare, configurează-i să nu aplice automat patch-uri din surse nesigure.
- Monitorizează activitatea agenților pentru comportamente anormale, cum ar fi încercările de acces la fișiere sensibile.
- Educă echipa să fie sceptică față de rapoartele de bug provenite din conturi necunoscute sau cu descrieri vagi.