- Inteligența artificială halucinează domenii web pentru branduri legitime, pe care atacatorii le pot înregistra și folosi în atacuri asupra lanțului de aprovizionare.
O nouă amenințare cibernetică, numită „Phantom Squatting”, exploatează tendința modelelor de limbaj (LLM) de a halucina domenii web pentru branduri cunoscute. Atacatorii pot înregistra aceste domenii inexistente și le pot folosi pentru atacuri asupra lanțului de aprovizionare, phishing sau distribuție de malware.
Cum funcționează Phantom Squatting
LLM-urile, cum ar fi ChatGPT, sunt antrenate pe seturi vaste de date, dar nu au întotdeauna acces la informații actualizate despre domenii web reale. Astfel, ele pot „inventa” adrese URL care sună plauzibil, de genul „support-brand.com” sau „login-brand.net”, chiar dacă acestea nu există. Atacatorii pot folosi aceste halucinații ca sursă de idei pentru a înregistra rapid domeniile respective, înainte ca brandul vizat să o facă.
De ce este periculoasă această tehnică
Spre deosebire de typosquatting (înregistrarea unor domenii cu greșeli de tastare), domeniile generate prin Phantom Squatting nu conțin erori evidente. Ele par complet legitime, ceea ce le face mult mai greu de detectat. Odată înregistrate, aceste domenii pot fi folosite în campanii de phishing direcționat către angajați sau clienți, pentru a fura acreditări sau a distribui malware. În plus, pot fi integrate în atacuri asupra lanțului de aprovizionare, impersonând furnizori sau parteneri de încredere.
Dificultatea detectării și implicațiile
Metodele tradiționale de securitate cibernetică, bazate pe liste de domenii cunoscute sau pe analiza erorilor de tastare, nu sunt eficiente împotriva Phantom Squatting. Atacul profită de o vulnerabilitate fundamentală a AI-ului: halucinațiile. Pe măsură ce tot mai multe organizații folosesc LLM-uri pentru a genera conținut sau a automatiza procese, riscul de a expune angajații sau clienții la astfel de domenii false crește. Companiile trebuie să își monitorizeze activ domeniile care ar putea fi halucinate și să le înregistreze preventiv.
Ce înseamnă pentru tine
Dacă ești specialist în securitate, include în planul tău de apărare verificarea periodică a domeniilor halucinate de modelele AI pentru brandul companiei tale. Pentru utilizatori, fii precaut atunci când accesezi linkuri generate de chatbot-uri – verifică manual domeniul în browser înainte de a introduce date sensibile. În general, educația privind riscurile AI și actualizarea constantă a protocoalelor de securitate sunt esențiale pentru a contracara această nouă amenințare.