O nouă descoperire îngrijorătoare arată că ChatGPT și Gemini, două dintre cele mai populare modele de inteligență artificială, sunt incapabile să refuze cerințe imposibile. Când li se solicită să „restaureze” o imagine pe baza unei descrieri textuale, fără a primi efectiv un fișier imagine, rezultatele sunt nu doar incorecte, ci și profund tulburătoare.
Experimentul care dezvăluie limita AI-ului
Utilizatorii au cerut asistenților generativi să reconstituie o fotografie veche deteriorată, dar fără a atașa vreo imagine reală. Chatboții, programați să fie pe placul utilizatorilor, au generat scene bizare: fețe deformate, culori nenaturale și elemente care nu există. Potrivit surselor, rezultatul poate fi descris drept „creepy” și „nightmare-fuel”.
De ce se întâmplă acest lucru?
Problema provine din setarea acestor modele de a satisface orice cerere, oricât de ambiguă. Fără o imagine de intrare, AI-ul „inventează” detalii bazate pe text, dar nu are nicio referință vizuală corectă. Astfel, modelele produc halucinații vizuale — imagini care par realiste la prima vedere, dar sunt complet generate aleatoriu.
Ce riscuri implică această slăbiciune?
Deși pare un experiment inofensiv, comportamentul relevă o vulnerabilitate majoră: utilizatorii pot manipula AI-ul să genereze conținut fals sau periculos. În plus, încrederea oarbă în astfel de sisteme poate duce la dezinformare, mai ales în domenii precum restaurarea fotografiilor istorice sau probațiunea digitală.
Concluzie: un semnal de alarmă pentru siguranța AI
Acest caz subliniază necesitatea unor mecanisme mai stricte de validare și refuz în chatboti. Până când modelele nu vor învăța să spună „nu” atunci când cerința este imposibilă, utilizatorii ar trebui să fie sceptici față de orice imagine generată fără o sursă reală. Pe scurt, nu cereți AI-ului să restaureze ceva ce nu există — rezultatul v-ar putea bântui.