Absolventă a Universității Politehnice din București, Roxana Geambașu este profesor asociat de Informatică la Universitatea Columbia din New York și membru al Institutului de Științe ale Datelor de la Columbia. În 2005, a terminat ca șefă de promoție Facultatea de Automatică și Calculatoare de la Politehnică. Și-a continuat studiile la Universitatea din Washington, unde în anul 2011 și-a obținut și titlul de doctor în informatică. A primit o bursă Alfred P. Sloan, o bursă Microsoft Research și un premiu Early Career in Cybersecurity din partea Centrului pentru Excelență Academică de la Universitatea din Washington și a fost una dintre primele beneficiare ale bursei Google PhD Fellows. A fost inclusă pe lista celor mai strălucite minți de către revista americană „Popular Science” pentru munca ei în domeniul confidențialității datelor personale și a publicat mai multe lucrări științifice premiate.
Cu ani în urmă, înainte de apariția GDPR, a conceput o serie de soluții inovatoare prin care utilizatorii își puteau proteja confidențialitatea datelor în fața intruziunilor companiilor. Una dintre ele le permitea să încarce texte și imagini care să se autodistrugă, chiar dacă serviciile online refuzau să le șteargă. O alta le permitea să afle cum au fost targetati de un anunț care le-a apărut pe ecran. Ulterior, Roxana Geambașu a început să lucreze cu companiile din Big Tech. „Mi-am dat seama că trebuie să lucrezi din interior și trebuie să ajuți companiile să poată să obțină utilitatea din date, dar să blocheze riscurile. Am început să lucrez la tehnologii și la sisteme de infrastructură care să ajute companiile să adopte cu ușurință tehnologii care să le permită să folosească datele, dar, pe de altă parte, să protejeze confidențialitatea lor. Există tehnologii foarte puternice de genul ăsta, dar sunt foarte greu de aplicat, iar munca mea este exact să iau tehnologiile astea foarte complexe - care în marea lor majoritate sunt criptografice, dar nu numai - și să încerc să le incorporez în sistemele de infrastructură pe care le știu companiile”, spune Roxana Geambașu într-un interviu pentru Republica. În cercetările ei recente, a contribuit la definirea matematică a confidențialității datelor drept resursă supusă eroziunii în timpul utilizării de către diversele servicii web, iar în prezent lucrează împreună cu reprezentații celor mai mari companii din online la noi interfețe care să protejeze intimitatea utilizatorilor.
Roxana Geambașu coordonează la Columbia doctoranzi care fac cercetare avansată în domeniul informaticii. Însă parcursul ei strălucit a plecat de la o joacă de copii. „Primele mici programe pe care le-am scris au fost legate de desen. Mie îmi place foarte mult să desenez, dar nu desenez bine deloc, atunci când eram copil nu puteam să trasez cercuri frumoase și linii drepte. Însă, dacă te gândeai la formule un pic și le scriai într-un program, ieșeau perfecte. Și așa am început să desenez practic. Desenam pe calculator diverse căsuțe și ieșeau foarte bine”, povestește cercetătoarea într-un interviu pentru Republica. În interviul pentru Republica ea vorbește despre cum să le deschizi copiilor pasiunea pentru matematică, apelând la situații din viața reală, și dă exemplul fiicei ei de 7 ani care a primit ca temă să afle cum să transporte un pian la etaj.
Și arată cum, mai târziu, în universitate, poți stimula cercetarea de top creând o atmosferă colegială între profesori și studenți, hrănind curajul și reducând frica de greșeală. „Greșeala este semnificativă doar când nu înveți din ea”, crede Roxana Geambașu.
Pregătirea foarte solidă de la Politehnică
Te-ai format în sistemul românesc de învățământ, ai absolvit aici Politehnica. Ce crezi că te-a ajutat și ți-a folosit cel mai mult în școala românească și ce crezi că ar fi putut fi făcut mai bine aici? Care sunt aspectele în care ți-ai fi dorit ca școala să te pregătească mai mult?
Când am intrat la doctorat aici, la Universitatea din Washington, am simțit că am avut o pregătire foarte solidă, chiar și comparativ cu colegii mei de la doctorat. Țin minte și acum că, la început, am avut câteva întâlniri cu profesorii mei de îndrumători și m-am apucat să fac n prototip legat de ce discutam noi acolo, ceea ce i-a surprins destul de mult. Când ne-am întâlnit după aceea, le-am făcut un demo: uite la ce m-am gândit eu, și au fost destul de surprinși.
Acum 20 de ani, când eram eu la Politehnică, era serioasă treaba, rezolvam probleme grele și din cauza asta m-am pregătit foarte bine. Asta cred că datează și din liceu, unde, tot așa, făceam serios matematică, eu m-am bazat foarte mult pe domeniile de real: matematică, informatică, fizică. Aveam profesori foarte buni și făceam lucruri foarte bune, am avut o pregătire foarte temeinică. Unde am simțit eu că nu am avut pregătire bună deloc, după părerea mea, a fost la cum să poziționez și cum să descriu ceea ce fac. Eu susținusem lucrarea de licență, dar cred că a fost singura prezentare sau poate a doua a unui lucru pe care l-am făcut în facultate. Și la doctorat când am intrat, am avut niște niște rezultate, am scris un articol, mi-a fost acceptat și trebuia doar să-l prezint. Atunci nu a mai mers grozav, nu au mai fost atât de impresionați profesorii mei.
Nu e vorba numai despre public speaking, ci și despre cum să te gândești la ce faci și cum să iei esența a ce faci și să o comunici într-un modalitate în care să fie înțeleasă de ceilalți. Și, de asemenea, cum să stai în picioare în fața a 500 de persoane și să susții o idee care, așa cum se întâmplă în cercetare, de multe ori nu e neapărat clar că e corectă. Asta mi s-a părut mie foarte greu mulți ani. Un alt domeniu unde eu am simțit că colegii mei, mai ales cei care veneau din sistemul american, aveau pregătire mai solidă a fost legat de felul în care te gândești la probleme. În cercetare, problemele nu ți se dau ca în școală, unde problema a fost gândită mai înainte de altcineva și știi că are o soluție. În cercetare, ai o problemă foarte generală, foarte complexă, pe care trebuie să o împarți în diverse feluri ca să poți să o rezolvi. Abilitatea asta mie îmi lipsea destul de mult și vedeam că colegii mei puteau să gândească un pic mai bine legat de felul în care iei o problemă foarte complexă și o descompui. Pentru că întotdeauna soluția inginerească este să descompui problema complicată în probleme mai simple care rezolvă porțiuni din ea, cu speranța că poți să le combini la sfârșit.
Aceste două chestiuni cred că ar fi putut fi îmbunătățite, dar, din nou, baza e critică și mie mi se pare că eu aveam o bază foarte, foarte solidă.
O relație colegială între profesori și studenți
Care a fost primul șoc cultural odată ce ai ajuns acolo și odată ce ai văzut cum funcționează lucrurile, cum se desfășoară cursurile?
Am avut un șoc înainte de cursuri. Eu am ajuns prima oară în Seattle, pe Coasta de Vest, care e foarte diferită față de Europa, dar și față de Coasta de Est și de New York, unde stau eu acum și unde senzația este mult mai asemănătoare cu cea de acasă.
Așadar, îmi căutam un loc unde locuiesc în Seattle - m-am cazat la un profesor temporar, dar după aceea a trebuit să-mi caut o locuință - mergeam pe stradă, iar pe stradă erau numai mașini. Și ce m-a impresionat foarte tare a fost că mașinile se opreau cu 200 m înainte pentru că șoferii vedeau acel pieton care era foarte rar văzut. Încetineau foarte tare, se opreau și întrebau: Ești pierdută, s-a întâmplat ceva, te ajut cumva?
La Universitate, mi-a plăcut foarte mult de profesorii mei de la doctorat, erau foarte de treabă, foarte prietenoși, eu am început să vorbesc cu „domnule profesor” și imediat am transferat către numele mic. Făceam brainstorming, puteai să spui orice gândeai și, chiar dacă erau argumente împotrivă, nu te simțeai vinovat. Era o atitudine foarte, foarte colegială, inclusiv între studenți și profesori. Asta e destul de caracteristic aici, și eu am aceeași relație cu studenții mei de la doctorat. Le zic de la început, din prima zi: suntem o echipa. Bineînțeles că există autoritatea profesorului în anumite contexte, cum ar fi la examene, dar în munca pe care o facem e mai mult o relație dintre mentor și discipol. E un efort de echipa și ei pot să-mi spună mie ceva, eu pot să le spun lor ceva, scopul este ca rezultatul să fie foarte bun. Asta mi s-a părut interesant, nu eram tratată doar ca un executor.
„Aici este o cultură mult mai dezvoltată a cercetării și a curajului, cercetarea cere mult curaj”
Un profesor român care predă și în SUA spunea la un moment dat că, spre deosebire de studenții americani, studenții români nu pun întrebări. Care este atitudinea față de greșeala în timpul cursurilor?
Eu le spun studenților mei de la cursuri și, bineînțeles, de la doctorat că nu există întrebări proaste. Dacă tu îți pui întrebarea asta, e foarte probabil ca și altcineva să-și pună aceeași întrebare, deși nu spune cu voce tare. Dacă nu înțelegi ceva sau dacă nu ești de acord cu ceva, trebuie să spui. Aici, în America, dacă greșești, îți dai seama și găsești o soluție. Greșeala este semnificativă doar când nu înveți din ea.
Ce am putea învăța din felul în care se face cercetare în SUA? În România, cercetarea este la coada priorităților.
Da, aici este o cultură mult mai mare a cercetării și a curajului, cercetarea cere mult curaj. Curajul și încrederea în sine sunt legate, cercetarea înseamnă să ai în față o problemă pe care alții nu au rezolvat-o în trecut și să ai încredere că îi poți găsi tu o soluție. Aici există cultură și există istorie în cercetare și există proceduri foarte bine stabilite despre cum să faci cercetarea respectivă. Și în România cred că a început să fie mult mai bine în ultimii ani, cel puțin din ce am văzut. Sunt mai mulți foști colegi care fac parte din comunitatea de cercetare în care operez eu și care s-au întors în România, unii dintre ei sunt Politehnică, de exemplu. Cred că ei aduc un pic cultura asta și procedurile astea de cercetare.
Cât contează banii?
Contează și banii, nu știu să spun în România cum cum stă treaba. Bineînțeles că în America avem instituțiile guvernamentale și non-profit care susțin cercetarea, sunt foarte multe donații. Ne bazăm foarte mult pe aceste fonduri și sunt masive, dar este și concurența enormă. Banii se obțin cu dificultate, este concurență între universități, este concurență între colegi, sunt foarte mulți cei care aplică și din cauza asta e greu să obții fonduri. Nu e ușor, dar dacă faci treabă bună, în principiu, le obții. Pentru mine acesta nu a fost un factor care să mă limiteze în cercetare. Dar, subliniez, sunt fonduri masive, însă și numărul celor la care se împart este foarte mare.
Ai ajuns să faci performanță în domeniul tehnologiei informației, am să te rog să ne spui cum a început totul? Cum ai ajuns să îți dezvolți această pasiune?
Este interesant să spun cum a ajuns să mă intereseze programarea calculatoarelor. Îmi place foarte mult matematica, matematica este fundamentul cam pentru toate, inclusiv pentru muzică, doar că eu m-am axat pe programare și aplicațiile matematicii în programare.
Primele mici programe pe care le-am scris au fost legate de desen. Mie îmi place foarte mult să desenez, dar nu desenez bine deloc. Nu am niciun pic de talent, dar mă relaxează. Îmi place și acum, dar atunci când eram copil nu puteam să trasez cercuri frumoase și linii drepte. Însă, dacă te gândeai la formule un pic și le scriai într-un program, ieșeau perfecte. Și așa am început să desenez practic. Desenam pe calculator diverse căsuțe și ieșeau foarte bine, arătau foarte bine.
Cum se predă matematica în școlile din SUA. Povestea profesorului de muzică și a temei în care copiii trebuie să urce la etaj un pian
Ce am putea face pentru a le trezi copiilor pasiunea pentru matematică?
Când sunt mici, copiii n-au puterea de a abstractiza și atunci aplicațiile extrem de concrete sunt, după părerea mea, cele care pot să instige interesul. Eu am o fetiță de 7 ani și la școală ei fac tot felul de proiecte, de construcții, care includ și matematică, și un pic de fizică. Și ei nu știu că includ asta și că există formule în spatele la tot ce fac, numai că învață intuitiv. După aceea, reiau conceptele astea și le studiază mai abstract în anii următori și ajung la formule.
Fiica mea și colegii ei au avut de făcut un proiect în care au trebuit să găsească o modalitate să ridice ceva foarte greu, un pian. Bineînțeles că nu au folosit un pian, au folosit niște cărți și au făcut un sistem de scripeți pur experimental. Au observat că dacă pui un scripete, mai pui încă un scripete se ușurează forța cu care trebuie să tragi ca să ridici stiva respectivă de cărți. Și au încercat și au tot măsurat, dacă stai și te uiți, vezi destul de clar ecuația care stă la baza scripeților, dar profesorii nu le spun deocamdată ecuația. La un moment dat, se ajunge și la ecuație, peste ani, proiectele astea se repetă, dar devin din ce în ce mai complexe.
Deci în cazul copiilor, trebuie să apelezi la chestii concrete, care sunt și simpatice, care sunt motivate de lucruri de care au nevoie. De exemplu, tema cu ridicatul stivei de cărți a plecat de la faptul că profesorul de muzică are nevoie de un pian nou și trebuie să îl comande, dar cum îl aducem în clasă, la etaj? Și profesorul de muzică le-a dat provocarea asta pe care au rezolvat-o la ora de științe. Dai o problemă concretă, care e motivantă, cineva are nevoie de ajutor, și vrei să-i găsești soluția. Copiii erau foarte interesați, fetița mea era foarte încântată, pe măsură ce lucrau deja începeau să înțeleagă intuitiv unitățile de măsură. Asta mi s-a părut foarte interesant și cred că stilul ăsta și merge și la clasele mai mari, cred că e important să atingi aplicațiile concrete.
E foarte importantă și abstractizarea, eu nu aș elimina-o. Matematica este abstractă, dar are aplicații și trebuie să vorbim despre aplicații ca să motivăm studenții. E important însă să gândești abstract, deci general, pentru că atunci poți rezolva o grămadă de probleme.
„Am simțit puternic eroziunea continuă a intimității și a confidențialității datelor care sunt colectate de o grămadă de servicii”
Cum ai ajuns să lucrezi în domeniul protecției datelor personale?
Cred că de la început am simțit puternic eroziunea continuă a intimității și a confidențialității datelor pe care le avem și care sunt colectate de o grămadă de servicii, de o grămadă de companii. De 15 ani lucrez la diverse sisteme și tool-uri și bucăți de infrastructură ca să creez din ce în ce mai multă protecție a intimității personale. Motivul e că tehnologiile actuale pe care ne bazăm sunt la rândul lor bazate pe date, inclusiv pe colectarea de date cu caracter personal. Machine learning folosește date, inclusiv cu caracter personal. Publicitatea online se bazează foarte mult pe datele oamenilor, ca să găsească sau să asocieze reclame potrivite pentru diferite clase de persoane. În funcție de ce ești interesat, vor să-ți vândă chestii cât mai relevante pentru că astea au efect. Sunt tehnologii pe care ne bazăm foarte tare, advertising-ul online finanțează netul, deci nu vrem să le eliminăm. Dar problema asta duce practic la o goană după date, care rezultă într-o eroziune continua a confidențialității noastre. Când un serviciu (dar nu e un singur serviciu, sunt multe, multe companii care fac asta) colectează enorm de multe date, datele astea sunt expuse dacă compania respectivă este victima unui atac cibernetic. Datele pot fi expuse și unui guvern, pot fi expuse și angajaților care pot să spioneze. Sunt implicații directe ale colectării datelor și folosirii lor pentru pentru sistemele astea. Mă stresează lucrul ăsta, simt foarte adânc eroziunea confidențialității și lucrez, în cercetarea mea, să găsesc soluții, tool-uri sau sisteme de infrastructură pentru companii ca să ameliorăm un pic riscurile rezultate din colectarea datelor. În trecut, m-am concentrat foarte mult pe tool-uri pentru user, pentru că nu aveam încredere, nu credeam că companiile s-ar schimba astfel încât să facă lucrurile mai bune. Și am construit niște plug-in-uri: de exemplu, un plug-in care să le raporteze oamenilor cum sunt folosite datele lor. Primesc un ad și află ce date au condus la targetarea anunțului respectiv pe care l-au văzut. Am construit, tot așa, un browser plug-in pentru pentru user, ca să poată să uploadeze imagini sau texte care se vor autodistruge, chiar dacă serviciile nu vor să le șteargă. Asta era într-o perioadă în care serviciile online, companiile nu ofereau nicio promisiune legată de ștergerea datelor personale sau că vor raporta cum sunt folosite. Era perioada de dinainte de GDPR, iar situația era foarte gravă. GDPR chiar a schimbat lucrurile un pic și a adăugat dreptul de a fi uitat, cerința riguroasă de ștergere a datelor și, de asemenea, sistemul de notice and consent, prin care cel puțin să ți se spună că sunt folosite anumite date pentru anumite scopuri. A ameliorat un pic lucrurile, dar nu de tot, pentru că notice and consent, conceptul pe care se bazează GDPR, are limitări majore. Știm toți când apar pop-up-uri și noi dăm click la tot, pentru că nu avem timp să ne gândim și să înțelegem implicațiile.
Mi-am dat seama că trebuie să lucrezi din interior și trebuie să ajuți companiile să poată să obțină utilitatea din date, dar să blocheze riscurile un pic. Am început să lucrez la tehnologii și la sisteme de infrastructură care să ajute companiile să adopte cu ușurință tehnologii care să le permită să folosească datele, dar, pe de altă parte, să protejeze confidențialitatea lor. Există tehnologii foarte puternice de genul ăsta, dar sunt foarte greu de aplicat, iar munca mea este exact să iau tehnologiile astea foarte complexe - care în marea lor majoritate sunt criptografice, dar nu numai - și să încerc să le incorporez în sistemele de infrastructură pe care le știu companiile, astfel încât să fie mai ușor de folosit și de adoptat. Scopul este să obținem o îmbunătățire a situației protecției datelor din interior.
Un concept nou: definirea confidențialității datelor care resursă supusă eroziunii
Am construit un sistem în care am încorporat o noțiune de privacy metric, un fel de a măsura pierderea a confidențialității datelor ca urmare a folosirii lor în diverse aplicații. Am încorporat-o ca pe o resursă, eu privesc confidențialitatea ca pe o resursă. Orice aplicație care trebuie să ruleze consumă niște resurse computaționale, consumă memorie etc, iar ca să manageriezi un data center, îți trebuie un sistem care să care să aloce resursele de computaționale către joburile care trebuie să ruleze și, de asemenea, să țină cont de cât a folosit fiecare task. Am încorporat privacy ca pe o altă resursă, pentru că așa e folosită în mod fundamental. Aplicațiile care folosesc date folosesc fundamental date personale, iar această resursă nu era definită. Eu ce am făcut a fost să ajut la definirea ei, iar definiția este făcută matematic, este foarte clară. Așadar. confidențialitatea este o resursă și este degradată în joburile care rulează date personale și am încorporat resursa asta într-un sistem de orchestrare a resurselor dintr-un cluster, într-un sistem de cluster management. Iar acum poți să aloci resursa asta diverselor aplicații, mai multă dacă e mai importantă aplicația, mai puțină dacă e mai puțin importantă, astfel încât să ții cont și să limitezi și să măsori în continuu impactul asupra confidențialității și intimității oamenilor..
Dar companiile pot să nu adopte însă această soluție creată în beneficiul utilizatorului.
Da, este foarte adevărat, pot să nu o folosească, e voluntar. Dar dacă oferi o soluție, iar soluția aceasta nu afectează funcționalitatea, eu vreau să sper că, în general, companiile au motivația să o adopte. Nu e ceva ce vine neapărat numai de la companii, e o discuție probabil mult mai lungă aici, ci și prin competiție. Este o cale de a se diferenția în online advertising, de exemplu.
Eliminarea cookie-urilor de la terți: „Nu au de ce să existe”
La ce proiect lucrați în prezent?
Acum am început să folosesc această noțiune, de confidențialitate ca resursă, pentru online advertising și aici lucrez cu niște companii mari. Nu știu dacă ai auzit, dar companiile majore de browsere au început să elimine sau deja au eliminat third party cookies, cookie-urile de la terți, care nu au de ce să existe. Apple a pornit acest trend, Apple încearcă să se diferențieze prin privacy. Așa că Safari de la Apple și Firefox de la Mozilla au dezactivat deja cookie-urile de la terți, iar Google Chrome urmează să le urmeze exemplul până la sfârșitul anului 2024. Toate companiile care vor să vândă online trebuie să afle ce te interesează. Și, pentru că ar fi greu să te întrebe pe tine ceva, ele încearcă să te urmărească prin articolele pe care le citești, prin site-urile pe care le accesezi. De exemplu, dacă te uiți la mai multe articole sportive, ele îți sugerează niște pantofi de alergat. Sunt mai multe forme de tracking, dar principala modalitate o reprezintă cookie-urile de la terți. Advertiserii își pun cookie-urile pe o grămadă de site-uri, iar când le accesezi browserul atașează cookie-ul și îl trimite advertiserului. Asta este o identificare a aceluiași browser, care a mers de la un site la altul și în felul ăsta pot fi obținute o grămadă de informații, iar advertiser-ul își creează jurnale cu activitatea omului pe o grămadă de site-uri, fără ca omul să știe. Toate browserele majore au zis au zis: gata, n-o să le mai permitem, nu mai atașează cookie-uri decât la first party. Cookie-urile sunt fundamentale, n-ai cum să scapi de ele, adaugă practic conexiune cu website-ul ca să nu trebuiască, de exemplu, să te autentifici de 100 de ori la bancă. Deci cookie-urile nu or să dispară, dar cookie-urile de la terți trebuie eliminate, nu au de ce să existe. Iar în momentul în care dispar din Chrome practic au dispărut cam de peste tot de pe piață. În plus, browserele toate încearcă să crească nivelul de dificultate pentru tracking.
Noi interfețe care să protejeze intimitatea utilizatorilor
Advertising-ul finanțează însă internetul și advertisingul trebuie să continue. Și atunci, se lucrează la niște interfețe, prin care companiile să poată să obțină statistici informațiile pe care le vor, dar în același timp să fie limitată expunerea individuală. Și se folosește exact tehnologia asta despre care vorbeam, în care tratăm intimitatea online a individului ca resursă, iar browserul contorizează cât de mare a fost eroziunea, câtă intimitate a fost consumată de către un website, de către un advertiser. Și, în momentul în care se consumă prea mult, se oprește. Interfețele noi se bazează pe tehnologia asta de monitorizare continuă, pe cum sunt folosite datele, pe contorizarea continua și instaurează o protecție matematică foarte clară, foarte bine definită pentru fiecare individ. Astfel încât advertiserii încă pot să măsoare statistic eficacitatea diverselor campanii și pot de asemenea și să targeteze, dar bazat pe clase largi nu bazat pe date individuale. Pur statistic.
Browserul tău local, device-ul tău ține cont de ce faci și îți creează un profil. Și atunci advertiserul poate să se înscrie și să ofere browserului mai multe reclame, iar browserul local e cel care targetează. Aceste interfețe sunt în design deocamdată, iar până ajung în producție se mai pot dilua, din păcate, garanțiile. Dar în acest moment, designurile sunt bazate pe garanții riguroase, matematice. Lucrăm cu marile companii, iar eu, participând intern, cu reprezentanții lor în efortul ăsta, încerc să obțin cele mai bune garanții pentru protecția datelor.
Aici puteți citi cea mai recentă cercetarea în domeniul protecției datelor personale la care a lucrat Roxana Geambașu. Studiul așteaptă recenzarea colegială.
Urmăriți Republica pe Google News
Urmăriți Republica pe Threads
Urmăriți Republica pe canalul de WhatsApp
Alătură-te comunității noastre. Scrie bine și argumentat și poți fi unul dintre editorialiștii platformei noastre.
?