Avertisment privind AI, venit din cel mai neașteptat loc: „E imposibil să ne dăm seama ce linie de cod produce un anumit comportament”

sursa foto: Profimedia

Satya Nadella, CEO-ul Microsoft, a publicat un mini-eseu ieri în care, cu toată prestanța funcției sale, recunoaște că modelele actuale de AI nu pot fi considerate sisteme de încredere.

Jumătate e marketing pitch desigur, dar principiile despre care vorbește sunt cât se poate de sănătoase. Vi le explic mai jos:

Nadella începe cu ceva ce orice programator știe: la software-ul clasic puteai urmări ce linie de cod a produs un comportament, lucru imposibil la modelele AI. Și totuși, le dăm acces la cele mai sensibile date și le lăsăm de multe ori să acționeze în numele nostru.

Apoi, propune ca modelele să fie tratate ca „insider risk”, termen din securitate pentru angajatul cu acces la sisteme importante, care poate greși sau poate fi compromis (aș mai adăuga: sau intenții răuvoitoare). Concret, propune celor ce dezvoltă și implementează sisteme AI:

- Să izoleze modelele în spații izolate, ce au un tip de frână de urgență cu care un om să poată opri oricând sistemul. Prezumția de la care pornești când implementezi un sistem cu AI este că „modelul e compromis” (cuvintele lui, nu ale mele);

- Să înregistreze tot. Fiecare acțiune importantă a unui model trebuie să lase urme pe care nu le poate șterge nimeni și pe care le poate citi un om. Cum ar veni, nu-l pui pe suspect să scrie procesul-verbal, urmărești ce s-a întâmplat pe camere;

- Să folosească mai multe modele (!) Nu lăsa niciodată același model să ia singur o decizie importantă sau să își verifice munca.

Nota mea: păcat că nu propune ca omul să rămână responsabil de verificare. Menționează totuși la alte puncte, dar nu la verificare.

Și mai cere testare continuă, audituri independente, dezvăluirea rapidă a incidentelor și altele.

Mai bine mai târziu decât niciodată.

În iunie vă povesteam despre modelele care recunosc când sunt testate și le comparam cu un angajat care îți zâmbește în ședință și despre care nu afli ce face când te întorci cu spatele. Am tot scris despre impredictibilitatea acestei tehnologii, care trebuie dezvoltată și implementată cu grijă pentru că, dincolo de toate beneficiile de eficiență, aduce și foarte multe riscuri.

Însă a trebuit ca aceste riscuri să poată fi transformate în avantaj de piață, ca să fie luate în serios.

Tot săptămâna trecută, Microsoft a anunțat un pachet de programe și servicii ce răspund fix acestor riscuri din eseu: Microsoft Execution Containers pentru restricționarea agenților, Agent 365 și Entra Agent ID integrate în Windows (identificarea și managementul agenților), HydraFusion (folosirea de multiple modele) și noul Surface Laptop Ultra, 2.599+ de dolari, până la 128 GB memorie, pentru rulat modele local.

Principiile sunt corecte. Doar că eseul e un amestec de pus cenușă în cap, sfaturi bune și catalog ascuns de produse și servicii.

Eseul se închide cu: „cel mai de încredere sistem cu SuperInteligență e cel care îți permite să ai cea mai puțină încredere în model”.

Aș mai adăuga: și cea mai puțină încredere în companiile care îți vând servicii AI sub forma unui discurs aproape mistic, ignorând riscurile și limitările.

P.S. Apropo, am lansat ”AI citit?”, probabil cea mai bună sursă de informații despre Inteligență artificială din România. În fiecare duminică, afli tot ce e relevant în domeniu pentru a înțelege lumea AI.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp