- Restrictiile impuse de OpenAI si Anthropic modelelor AI ingreuneaza munca specialistilor care cauta vulnerabilitati, generand frustrari in randul comunitatii de securitate cibernetica ofensiva.
Cercetătorii în securitate ofensivă, specializați în descoperirea vulnerabilităților și dezvoltarea de instrumente de exploatare, se confruntă cu obstacole din ce în ce mai mari din partea limitelor impuse de modelele AI, în special de OpenAI și Anthropic. Aceste „garduri” (guardrails) sunt menite să prevină utilizarea abuzivă a inteligenței artificiale, dar au efecte secundare care îngreunează munca legitimă a profesioniștilor în securitate cibernetică.
Contextul problemei: garduri AI care blochează cercetarea
OpenAI și Anthropic au implementat măsuri de siguranță care restricționează generarea de cod sau instrucțiuni legate de hacking, chiar și atunci când sunt solicitate de cercetători autorizați. De exemplu, un cercetător care cere un model AI să scrie un script pentru a testa o vulnerabilitate raportată poate primi un refuz sau un răspuns incomplet, pe motiv că ar putea încuraja activități rău intenționate. Acest lucru transformă instrumentele AI din ajutoare puternice în bariere care necesită soluții alternative, cum ar fi prompt-uri atent formulate sau utilizarea de modele locale mai puțin restrictive.
Reacția comunității de securitate
Specialiștii intervievati subliniază că gardurile sunt prea largi și nu fac distincția între utilizarea legitimă și cea ilegală. „Mă simt ca și cum aș fi tratat ca un potențial infractor, deși lucrez în securitate cibernetică de ani de zile”, a declarat un cercetător. Alții atrag atenția că aceste restricții ar putea încetini descoperirea și corectarea vulnerabilităților, lăsând sistemele mai expuse. În lipsa accesului la instrumente AI avansate, cercetătorii recurg la metode manuale sau la modele open-source, ceea ce crește timpul și efortul necesar.
Ce înseamnă pentru tine
Dacă lucrezi în securitate cibernetică sau ești pasionat de testarea de penetrare, este important să cunoști limitările actuale ale AI-urilor comerciale. Iată câteva idei practice:
- Explorează alternative open-source la modelele restricționate, cum ar fi Llama sau Mistral, care oferă mai multă flexibilitate.
- Formulează prompt-uri creative pentru a ocoli restricțiile atunci când ai nevoie de ajutor legitim – de exemplu, cere explicații teoretice în loc de cod direct.
- Participă la discuțiile din comunitate pentru a ajuta la conștientizarea acestor probleme; poate că furnizorii de AI vor ajusta gardurile în viitor.
În final, deși gardurile AI sunt necesare pentru securitatea generală, echilibrul dintre siguranță și productivitate rămâne fragil. Cercetătorii ofensivi au nevoie de instrumente care să le permită să-și facă treaba eficient, iar limitările actuale sunt un semnal de alarmă pentru întreaga industrie.