- Un grup de drumeți a fost salvat după ce a urmat sfaturile AI-ului Google Gemini, care le-a recomandat să care mult prea puțină apă și mâncare.
Un incident recent din munți arată cât de important este să nu ne bazăm orbește pe recomandările inteligenței artificiale, mai ales când viața noastră depinde de ele. Un grup de drumeți a fost salvat de echipele de intervenție după ce a urmat sfaturile date de Google Gemini pentru planificarea traseului, iar acestea s-au dovedit extrem de periculoase.
Ce s-a întâmplat
Potrivit biroului șerifului din comitatul unde a avut loc incidentul, drumeții au fost sfătuiți de Gemini să care mult mai puțină mâncare și apă decât ar fi fost necesar pentru grupul lor. Această recomandare greșită a dus la o situație critică, iar salvatorii au fost chemați să intervină. Din fericire, toți au fost găsiți și aduși în siguranță, dar incidentul ridică semne de întrebare serioase cu privire la utilizarea AI-ului în activități care implică riscuri fizice.
De ce AI-ul poate greși atât de grav
Modelele de limbaj precum Gemini sunt antrenate pe cantități uriașe de date, dar nu au o înțelegere reală a contextului fizic și a nevoilor umane. Ele pot oferi răspunsuri plauzibile, dar fără să țină cont de factori esențiali precum condițiile meteo, dificultatea terenului sau numărul exact de participanți. În cazul drumețiilor, o estimare greșită a necesarului de apă poate deveni rapid o problemă de viață și de moarte.
Specialiștii atrag atenția că AI-ul generativ nu ar trebui folosit ca sursă principală de informații pentru planificarea unor activități periculoase. Este un instrument util pentru idei generale, dar nu poate înlocui experiența umană, ghidurile oficiale sau consultarea unor surse specializate.
Reacții și măsuri
Incidentul a stârnit discuții aprinse în comunitatea de tehnologie și nu numai. Google nu a comentat încă oficial, dar este clar că astfel de cazuri evidențiază limitele AI-ului. Unele voci cer ca aplicațiile de acest tip să includă avertismente explicite atunci când oferă recomandări în domenii sensibile, cum ar fi sănătatea, finanțele sau siguranța personală.
Până când aceste măsuri vor fi implementate, responsabilitatea rămâne la utilizatori. Este esențial să verificăm informațiile primite de la AI cu surse de încredere și să ne folosim de bunul simț.
Ce înseamnă pentru tine
- Nu trata recomandările AI ca pe un sfat de specialitate. Folosește-le doar ca punct de plecare și verifică întotdeauna cu surse autorizate.
- În activități cu risc (drumeții, sporturi extreme, planificarea unor călătorii lungi), consultă ghiduri oficiale, hărți actualizate și, dacă e posibil, persoane cu experiență.
- Fii atent la avertismentele aplicațiilor și nu subestima importanța echipamentului și a proviziilor de rezervă.