Inteligența artificială generativă a cucerit lumea, dar vine cu o problemă majoră: halucinațiile. Modele precum ChatGPT sau Gemini creează răspunsuri convingătoare, care însă pot fi complet false. Pentru aplicațiile critice, această lipsă de încredere blochează adoptarea. Startup-ul Probably tocmai a strâns 9 milioane de dolari pentru a schimba această realitate, construind o inteligență artificială care nu mai inventează fapte.
Problema halucinațiilor, un obstacol major
Halucinațiile AI sunt rezultatul modului statistic în care funcționează modelele de limbaj mari (LLM). Acestea prezic următorul cuvânt pe baza probabilităților, fără o verificare a veridicității. Rezultatul: date inventate, citate false, informații contradictorii. Într-un context profesional, o astfel de eroare poate avea consecințe grave – de la decizii de business greșite la riscuri legale sau medicale.
Probabil că ai întâlnit deja situația în care un chatbot ți-a recomandat o carte inexistentă sau a atribuit un eveniment istoric unei date greșite. Încrederea utilizatorilor se erodează cu fiecare astfel de greșeală, iar companiile ezită să integreze AI în fluxurile sensibile.
Ce propune Probably: hibridul LLM-determinist
Abordarea Probably se bazează pe combinația dintre puterea generativă a LLM-urilor și rigoarea sistemelor deterministe. În loc să se bazeze exclusiv pe rețele neuronale, platforma verifică fiecare afirmație printr-un motor de raționament bazat pe reguli și baze de cunoștințe structurate. Astfel, răspunsurile finale sunt validate înainte de a ajunge la utilizator.
Inspirându-se din ingineria software, unde sistemele deterministe oferă predictibilitate maximă, Probably își propune o precizie comparabilă cu „adevărul fundamental” (ground truth). Deși detaliile tehnice nu sunt publice, conceptul amintește de ceea ce se numește „AI neuro-simbolic” – o fuziune între învățarea automată și logica formală.
9 milioane de dolari pentru o nouă generație de fiabilitate
Runda de finanțare, despre care nu s-au oferit încă detalii privind investitorii principali, vine într-un moment în care presiunea pentru „AI de încredere” crește accelerat. Giganți precum OpenAI, Google sau Anthropic investesc masiv în reducerea halucinațiilor, dar tehnicile actuale – precum fine-tuning-ul sau recuperarea augmentată – nu elimină complet problema.
Probably își asumă un pariu ambițios: să livreze o soluție unde eroarea faptică este redusă aproape de zero. Cele 9 milioane de dolari vor accelera dezvoltarea produsului și, posibil, integrarea cu aplicații enterprise, unde riscul halucinațiilor este cel mai costisitor.
Contextul pieței și implicațiile
Piața AI-ului generativ este estimată să depășească 100 de miliarde de dolari în următorii ani, dar o mare parte din potențial rămâne blocată de lipsa de fiabilitate. Sectoare precum sănătatea, finanțele sau dreptul cer un nivel de acuratețe pe care modelele actuale nu îl pot garanta. Dacă Probably reușește, ar putea debloca o adopție mult mai amplă.
În plus, reglementările globale privind AI-ul responsabil (de la AI Act-ul european la directivele SUA) forțează companiile să demonstreze că sistemele lor sunt sigure și corecte. O tehnologie care elimină halucinațiile devine un avantaj concurențial uriaș.
Ce înseamnă pentru tine
Pentru utilizatorul obișnuit, un asistent AI care nu mai inventează informații înseamnă economie de timp și frustrare. Nu va mai fi nevoie să verifici fiecare detaliu oferit de chatbot, iar instrumentele bazate pe AI vor putea fi folosite pentru decizii importante fără frica de erori.
De asemenea, această direcție tehnologică ar putea duce la o mai mare transparență: în loc de cutii negre, vei ști de ce AI-ul a oferit un anumit răspuns, pentru că acesta provine dintr-o sursă verificabilă. Pe termen mediu, așteaptă-te ca aplicațiile de productivitate, educație și consiliere să devină mult mai de încredere.