- Cercetătorii au descoperit că modelele lingvistice AI pot dezvolta propriile prejudecăți în evaluarea CV-urilor, chiar și atunci când datele de antrenare sunt corectate.
Tot mai multe companii folosesc inteligența artificială pentru a tria CV-urile înainte ca un recrutor uman să le vadă. Însă un studiu recent al cercetătorilor de la MIT Technology Review arată că AI-ul nu doar preia prejudecățile umane din datele de antrenament, ci poate să își dezvolte propriile biasuri, independent de cele umane.
Ce arată noul studiu
Cercetătorii au analizat modele lingvistice mari (LLM) utilizate în procesele de recrutare și au descoperit că, pe lângă biasurile moștenite din date, acestea pot forma noi asocieri greșite în urma ajustărilor prin învățare prin consolidare. De exemplu, un model poate învăța să penalizeze anumite cuvinte sau structuri de CV care nu au legătură cu competențele reale, creând astfel filtre arbitrare.
De ce e mai grav decât biasul uman
Prejudecățile umane pot fi identificate și corectate prin instruire sau reglementări. În schimb, biasurile AI sunt adesea invizibile, integrate în ponderi complexe ale rețelelor neuronale, și pot scala rapid fără supraveghere. Mai mult, ele pot persista chiar dacă datele de intrare sunt echilibrate, ceea ce le face mai greu de depistat și eliminat.
Cum se manifestă noile prejudecăți
Studiul a evidențiat că LLM-urile pot dezvolta preferințe pentru anumite formate de CV (de exemplu, bullet points vs. paragrafe), pentru cuvinte-cheie specifice sau chiar pentru nume care sună într-un anumit fel. De asemenea, pot penaliza pauzele în carieră sau experiența non-standard, indiferent de relevanța lor pentru postul respectiv.
Ce înseamnă pentru tine
Dacă aplici pentru un job și știi că CV-ul tău va fi analizat de un AI, iată câteva sfaturi practice: optimizează-ți CV-ul pentru modelele lingvistice – folosește cuvinte clare, evită abrevierile neobișnuite și structurează informațiile logic; informează-te despre platformele folosite de angajator și caută recenzii privind biasurile raportate; cere feedback – dacă ești respins, întreabă dacă AI-ul a jucat un rol și dacă poți afla motivele exacte. Transparența este cheia pentru a combate aceste prejudecăți invizibile.