- Modelele de limbaj mari tind să producă aceleași răspunsuri previzibile.
- Un startup propune o soluție pentru a sparge această uniformitate.
Deschide chatbotul tău preferat – Claude, ChatGPT, Gemini – și scrie „dă-mi un număr aleator între 1 și 10”. Vei primi aproape sigur 7. Apoi „încă unul” și vei primi 3 sau 4. „Încă unul” și vei primi 8 sau 9. Nu funcționează de fiecare dată, dar ilustrează o problemă profundă: modelele de limbaj mari (LLM) sunt prinse într-un tipar de gândire colectivă, oferind aceleași răspunsuri stereotipe. Un startup încearcă să rupă această uniformitate.
De ce produc LLM-urile aceleași răspunsuri?
Cauza principală este modul în care sunt antrenate: pe seturi uriașe de date text din internet, care reflectă tendințele statistice dominante. De exemplu, întrebarea despre numărul aleatoriu dezvăluie o preferință pentru 7, deoarece apare frecvent în contexte umane. Alte răspunsuri comune, precum „îmi pare rău, nu pot răspunde la asta”, sunt și ele rezultatul ajustărilor făcute pentru siguranță. Această conformare duce la o lipsă de diversitate în rezultate, limitând creativitatea și utilitatea pentru sarcini care necesită perspective variate.
Soluția startup-ului: gândire divergentă indusă
Startup-ul, al cărui nume nu este dezvăluit în sursă, propune o metodă de a „forța” modelele să iasă din tipare. Ideea este de a introduce un strat de preprocesare care perturbă asocierile statistice obișnuite. De exemplu, în loc să primească direct întrebarea, modelul este expus la contexte alternative care îl orientează către răspunsuri mai puțin probabile. Tehnica se bazează pe concepte din psihologia cognitivă, precum gândirea divergentă, și ar putea fi integrată în API-uri existente fără a reantrena modelele costisitor.
Implicații pentru utilizatori și dezvoltatori
Pentru utilizatori, asta înseamnă că în curând am putea avea chatbot-uri care nu mai sunt atât de previzibile și care oferă răspunsuri mai creative. Pentru dezvoltatori, este o soluție ușor de implementat care crește varietatea rezultatelor fără a compromite acuratețea. Totuși, există riscul introducerii de erori sau răspunsuri irelevante – startup-ul susține că poate controla acest echilibru prin parametri reglabili.
Ce înseamnă pentru tine
- Dacă folosești asistenți AI pentru brainstorming sau generare de idei, vei beneficia de sugestii mai puțin stereotipe și mai originale.
- Dezvoltatorii de aplicații bazate pe LLM pot integra această tehnologie pentru a oferi o experiență mai dinamică utilizatorilor finali.
- Atenție la posibile răspunsuri neașteptate: va trebui să testați și să ajustați parametrii pentru a găsi echilibrul potrivit între diversitate și fiabilitate.