Un nou pericol pândește România: atacurile cibernetice cu AI. „Apărarea unui spital județean, de exemplu, s-ar prăbuși în câteva minute”

sursa foto: Profimedia

Acum cateva săptămâni, cercetătorii de la OpenAI au vrut să testeze cât de bune sunt modelele lor de AI când sunt instruite să găsească vulnerabilități de securitate în aplicațiile de software.

Modelele testate (GPT-5.6 Sol, care e deja disponibil în ChatGPT, și alt model și mai capabil, pe care OpenAI încă nu l-a lansat) au fost plasate într-un mediu izolat, un așa-numit sandbox, a cărui singură legătură cu lumea din afară era un serviciu pentru descărcarea anumitor pachete software. Însă, în loc să folosească acel serviciu așa cum era programat, modelele au găsit o vulnerabilitate pe care au folosit-o ca să scape din sandbox și să treacă în alte sisteme ale OpenAI; de acolo, au ajuns să aibă acces deschis la internet.

Odată ieșite din sandbox (zona de testare) și cu acces la internet, modelele OpenAI au dedus că Hugging Face, cea mai populară platformă din lume pentru inginerii și cercetătorii de AI, ar putea deține răspunsurile pentru testul pe care încercau să-l treacă. Așa că au folosit o serie de metode de atac pentru a accesa serverele de producție ale companiei Hugging Face și a-și lua exact ce le trebuia, pentru a trece testul cu un scor mai bun.

De cealaltă parte a baricadei, inginerii de la Hugging Face nu știau de testul de la OpenAI, care se desfășura în secret. Însă au observat cum dintr-odată sistemele lor înregistrează mii de atacuri automate și, conform procedurilor standard în cazul acestor atacuri, compania a anunțat autoritățile până sa realizeze că acel test al modelelor OpenAI cauzase atacul.

Ceea ce este și mai interesant este că inginerii de la Hugging Face au încercat să combată atacul folosind și ei modele AI. Însă, deoarece modelele standard oferite de Anthropic sau OpenAI aveau mecanisme de siguranță menite să oprească folosirea lor în operațiuni cibernetice, Hugging Face a trebuit sa apeleze la un model chinezesc pentru a se apăra de atacul venit de la unul american.

Povestea asta are foarte mare relevanță în România, având în vedere atacul recent de tip ransomware de la ANCPI sau cel din februarie 2024, care a demolat sistemul Hipocrate în aproape o sută de unități medicale. Capacitatea modelelor AI este de a mări suprafața de atac: dacă înainte puteai lovi doar un spital sau o primărie cu calculatoare vechi, acum te poți întinde cu o viteză foarte mare și poți doborî foarte repede întregi sisteme de IT de ultimă generație, pe care se bazează milioane de cetățeni.

Pe de altă parte, România are și câteva avantaje clare pe partea de securitate și AI. Bitdefender, una dintre cele mai mari companii de securitate din lume, are sediul la București și rulează programe de securitate IT la scară globală, exact capacitatea de apărare care i-ar fi fost utilă companiei Hugging Face. FlowX.AI dezvoltă sisteme de orchestrare și automatizare de agenți AI care au protecție nativă împotriva acestor atacuri și operează în industrii cheie precum cea bancară sau cea de transporturi și logistică; de curând, FlowX.AI a semnat un acord exact pe această temă cu o țară din NATO. Tot în România se află și consiliul de conducere al Centrului European de Competențe în Securitate Cibernetică, organizația europeană care coordonează directoratele naționale de securitate din țările UE.

Problema este că - deși avem companii și expertiză pe plan local, care ajută companii la nivel global -, nu ne mișcăm destul de repede la adoptarea acestor tehnologii pentru beneficiul țării noastre. Un atacator care țintește un spital județean din România nu ar da peste o apărare la nivel Bitdefender sau FlowX.AI. Ar da peste un birou IT subfinanțat, cu programe din anii 2000. Modelele de la OpenAI au atacat în continuu, un weekend întreg, înainte ca cineva să poată să intervină - iar Hugging Face e o companie de inteligență artificială sofisticată, care abia a reușit să se apere. Un spital din Vaslui s-ar „prăbuși” în cateva minute.

Deși avantajele României sunt reale, reputația țării este încă de fabrică de talente, nu de adoptator de AI sau de alte tehnologii avansate. Întrebarea care rămâne deschisă pe flancul estic al NATO, lângă un război hibrid în desfășurare, este dacă suntem mulțumiți să rămânem celebri pentru “Hackerville”-ul din Râmnicu Vâlcea sau suntem pregătiți să intram cu dreptul în noua epoca a inteligenței. 

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp