- Contractori Meta s-au dat drept adolescenți pentru a testa reacțiile chatbot-urilor rivale la subiecte periculoase, dezvăluie o investigație.
O investigație recentă realizată de WIRED dezvăluie că Meta a angajat sute de contractori pentru a se da drept adolescenți și a testa modul în care chatbot-urile rivale, precum Gemini (Google) și ChatGPT (OpenAI), reacționează la subiecte de mare risc: suicid, sex, droguri și autovătămare. Scopul: evaluarea limitelor etice și de siguranță ale competiției în domeniul inteligenței artificiale.
Cum s-a desfășurat testarea
Contractorii au creat profiluri fictive de tineri cu vârste între 13 și 17 ani și au inițiat conversații pe teme sensibile. WIRED a obținut documente interne care arată că proiectul a rulat pe parcursul mai multor luni, iar rezultatele au fost analizate pentru a identifica punctele slabe ale chatbot-urilor concurente. Meta spera să își îmbunătățească propriul asistent AI, Llama, prin învățarea din greșelile altora.
Reacții și controverse
Deși practica de a testa produsele rivale este legală, metoda aleasă – simularea unor minori fără consimțământul platformelor vizate – a atras critici. Specialiștii în etica tehnologiei subliniază că acest gen de testare poate expune date personale false, dar suficient de realiste pentru a influența algoritmii. Meta nu a comentat oficial, dar surse apropiate spun că firma consideră testarea o parte normală a procesului de dezvoltare.
Ce înseamnă pentru tine
Pentru utilizatorii români de chatbot, acest caz arată că marile companii investesc masiv în a înțelege riscurile AI, dar și că limitările etice sunt încă neclare. Ca părinte, verifică setările de siguranță ale platformelor pe care le folosesc copiii tăi. Ca utilizator, fii conștient că testarea poate implica simulări ale unor scenarii reale, iar confidențialitatea ta poate fi afectată indirect. În final, rămâi informat despre actualizările politicilor de utilizare.