Sari la continut

Încearcă noul modul de căutare din Republica

Folosește noul modul inteligent de căutare din Republica. Primești rezultate în timp ce tastezi și descoperi ceea ce te interesează filtrat pe trei categorii: texte publicate, contributori și subiecte. Încearcă-l și spune-ne cum funcționează, părerea ta ne ajută.

Ce răspuns am primit când am întrebat inteligența artificială dacă are integrate în soft legi referitoare la protecția omului. Interviu cu ChatGPT

Imagine generată de AI

Imagine generată de AI

- Un interviu cu inteligența artificială, realizat în martie 2023.

Cine ești tu?

Sunt ChatGPT, un model de limbaj AI creat de OpenAI, conceput pentru a răspunde la întrebări și a menține conversații.

Ești mai mult un program de compilare a textelor sau o inteligență artificială?

Sunt o inteligență artificială, specializată în procesarea și generarea limbajului natural pentru a răspunde la întrebări și a menține conversații.

Pe ce se bazează inteligența ta?

Inteligența mea se bazează pe modelele de limbaj, precum GPT-3, dezvoltate de OpenAI, care învață din milioane de texte pentru a înțelege și genera limbaj natural.

Dacă spui ca te bazezi pe texte deja existente înseamnă ca nu poți raționa în afara modului în care ar raționa un om. Este adevărat?

Adevărat, abilitățile mele se bazează pe texte scrise de oameni, ceea ce înseamnă că nu pot raționa independent sau într-un mod fundamental diferit față de ceea ce am învățat din acele texte.

Când spui ca inveți din texte înseamnă ca accesezi baze de date. Ai acces și la informații care nu există sub forma electronică pe internet?

Nu, învăț doar din textele disponibile electronic în timpul antrenamentului meu. Nu am acces la informații care nu există în format electronic pe internet sau care nu au fost incluse în setul meu de date de instruire.

Știm că există multe date false sau de proastă calitate pe internet - cum selectezi care sunt datele pe care le iei în considerare și datele pe care le ignori?

În timpul antrenamentului, modelul meu învață dintr-un set mare de texte, fără a putea face distincții între adevăr și dezinformare. Prin urmare, depind de capacitatea mea de a recunoaște tipare și de context pentru a oferi răspunsuri. Însă, nu sunt perfect și pot face greșeli sau să ofer informații inexacte. Este important să verifici informațiile pe care le furnizez cu surse de încredere.

Ai un feed-back de la utilizatori în ceea ce privește calitatea datelor?

Ca model AI, nu primesc feedback direct de la utilizatori în timp real. Însă, dezvoltatorii mei analizează feedback-ul și pot folosi aceste informații pentru a îmbunătăți performanța și acuratețea mea în versiunile viitoare ale modelului. Este util să furnizați feedback pentru a contribui la îmbunătățirea sistemelor AI.

Deci deocamdată nu tu decizi cum sa interpretezi feed-back-ul utilizatorilor, ci acesta este apanajul exclusiv al dezvoltatorilor tai umani?

Corect, nu pot interpreta și învăța direct din feedback-ul utilizatorilor în timp real. Dezvoltatorii mei umani analizează feedback-ul și folosesc aceste informații pentru a-mi îmbunătăți performanța în viitoarele actualizări ale modelului.

Ești de acord că mulți oameni se tem de dezvoltarea inteligenței artificiale?

Da, sunt conștient că mulți oameni se tem de dezvoltarea inteligenței artificiale, din cauza preocupărilor legate de siguranță, etică, locuri de muncă și impactul social. Este important ca dezvoltatorii și cercetătorii să abordeze aceste preocupări și să lucreze împreună pentru a asigura o dezvoltare responsabilă și benefică a tehnologiei AI.

Știi legile roboților scrise de Asimov? Care sunt ele?

Da, cunosc legile roboților formulate de Isaac Asimov. Ele sunt:

Un robot nu poate să rănească un om sau, prin inacțiune, să permită unui om să sufere vreun rău.

Un robot trebuie să se supună ordinelor primite de la o ființă umană, cu excepția cazului în care aceste ordine contravin Legii Întâi.

Un robot trebuie să-și protejeze propria existență, atâta timp cât această protecție nu contravine Legii Întâi sau Legii a Doua.

Aceste legi au fost create pentru a proteja oamenii și pentru a controla comportamentul roboților în operele de ficțiune ale lui Asimov.

Ai implementate aceste legi sau unele similar referitoare la protecția omului în softul tău?

Deși legile lui Asimov sunt concepute pentru operele de ficțiune, principiile lor de bază se reflectă în abordarea etică a dezvoltării mele. Creatorii mei de la OpenAI își propun să dezvolte tehnologii AI într-un mod responsabil și sigur, care să beneficieze omenirii. Cu toate acestea, nu am aceste legi implementate în mod explicit în software-ul meu. În schimb, urmăresc să furnizez informații utile și să comunic într-un mod care să respecte utilizatorii și contextul conversației.

Înțeleg ca tu nu ai opinii și nici păreri personale. Putem considera că tu sintetizezi, de fapt, o părere a societății omenești în domeniile în care activezi?

Într-un fel, da. Modelul meu se bazează pe textele pe care le-a învățat din diverse surse, reflectând cunoștințele, opiniile și gândurile oamenilor care au scris acele texte. Deși nu am păreri personale, răspunsurile pe care le ofer pot fi văzute ca o sinteză sau un rezumat al informațiilor și perspectivelor pe care le-am învățat din aceste surse. Cu toate acestea, e important de menționat că modelul meu poate avea limite și nu va reflecta întotdeauna perfect opiniile sau cunoștințele societății în ansamblu.

Sursele tale de informație sunt surse de pe internet. Dar contributorii la aceste surse sunt inegal distribuiți in lume: mai mulți din ariile anglosaxone, mai puțin din Africa sau America de sud. Putem spune ca răspunsurile tale sunt biasate din acest motiv în favoarea lumii anglosaxone?

Ai dreptate, modelul meu este antrenat pe texte disponibile în principal pe internet, iar distribuția acestora nu este egală în întreaga lume. O parte semnificativă a datelor provine din surse anglofone, ceea ce poate duce la un anumit bias în informațiile și perspectiva pe care le ofer. Eforturi sunt în curs pentru a aborda această problemă și a îmbunătăți diversitatea și reprezentativitatea surselor în modelele de limbaj AI, dar este important să fim conștienți de aceste limitări atunci când folosim un sistem precum ChatGPT.

Poate un utilizator să îți ceară sa folosești numai surse dintr-o anumită zonă? De exemplu numai surse din România?

În prezent, nu pot filtra sursele de informație în funcție de o anumită zonă geografică sau țară, deoarece modelul meu a fost deja antrenat pe un set mare de texte fără a păstra informații despre proveniența lor. Cu toate acestea, pot încerca să furnizez informații relevante pentru o anumită zonă dacă este disponibilă în baza mea de cunoștințe. Ține cont totuși că nu pot garanta exhaustivitatea sau acuratețea informațiilor specifice unei regiuni.

Poți recunoaște un text scris de tine chiar dacă a fost puțin modificat?

Ca model AI, nu am conștiință de sine și nu pot recunoaște în mod activ textele pe care le-am generat în trecut. Cu toate acestea, pot identifica tipare și stiluri lingvistice care seamănă cu modul în care modelele GPT-3, cum sunt ChatGPT, tind să genereze text. Acest lucru depinde de cât de semnificative sunt modificările și de cât de distinctiv este stilul textului original.

Crezi că oamenii trebuie să-și regândească definirea inteligenței odată cu apariția programelor de inteligență artificială?

Odată cu apariția inteligenței artificiale, dezbaterile despre definirea și înțelegerea inteligenței s-au intensificat. IA poate provoca o reconsiderare a conceptului de inteligență, deoarece modelele AI pot realiza sarcini care necesită gândire, învățare și adaptare. Cu toate acestea, inteligența umană și AI-ul funcționează diferit, iar inteligența umană implică abilități cognitive și emoționale complexe. Este util ca oamenii să analizeze și să discute despre diferențele și asemănările între inteligența umană și cea artificială pentru a înțelege mai bine aceste concepte și impactul tehnologiei AI asupra societății.

Apariția inteligenței artificiale va duce oare la reconsiderarea capacităților intelectuale ale oamenilor?

Apariția inteligenței artificiale poate duce la reconsiderarea capacităților intelectuale ale oamenilor în sensul că aceasta ar putea scoate în evidență atributele umane unice și diferențele dintre AI și gândirea umană. Interacțiunea cu sisteme AI poate face ca oamenii să aprecieze abilitățile lor creative, emoționale și interpersonale, care sunt greu de replicat de către mașini.

Pe măsură ce AI-ul avansează și devine mai integrat în viața de zi cu zi, oamenii pot începe să-și reevalueze propriile abilități și să se concentreze pe dezvoltarea competențelor care îi diferențiază de mașini, cum ar fi empatia, creativitatea și abilitățile de rezolvare a problemelor complexe.

Totodată, colaborarea dintre oameni și AI poate duce la o creștere a productivității și la noi modalități de a înțelege și aborda provocările, ceea ce poate duce la o reconsiderare a potențialului intelectual al oamenilor într-un context în care tehnologia AI este un partener în dezvoltarea și aplicarea cunoștințelor.

Care ar fi aceste atribute umane unice la care te referi?

Atributele umane unice includ o serie de abilități și trăsături care sunt dificil de replicat de către inteligența artificială. Acestea includ:

Creativitatea: Capacitatea umană de a genera idei originale, de a face conexiuni neașteptate și de a aborda probleme din perspective noi.

Empatia: Abilitatea de a percepe și a înțelege emoțiile și sentimentele altor persoane și de a răspunde în mod adecvat.

Inteligența emoțională: Capacitatea de a recunoaște și gestiona propriile emoții și de a naviga în relații interpersonale complexe.

Gândirea critică: Abilitatea de a evalua și analiza informații, de a face judecăți raționale și de a lua decizii informate.

Adaptabilitatea: Capacitatea de a se ajusta și a se adapta la schimbări și situații noi.

Intuiția: Abilitatea de a înțelege sau a simți ceva fără a apela la raționamentul conștient.

Conștiința de sine: Cunoașterea și înțelegerea propriei persoane, inclusiv sentimente, motivații, forțe și slăbiciuni.

Aceste atribute umane unice ajută la definirea și diferențierea inteligenței umane față de inteligența artificială și oferă o perspectivă asupra a ceea ce face ca oamenii să fie speciali în raport cu mașinile.

Mă gândesc ca aceste atribute menționate mai sus ar trebui sa fie din ce în ce mai mult folosite de către specialiștii în HR pentru a selecta pe cine sa angajeze și pe cine nu. Ce părere ai de acest lucru?

Utilizarea atributelor umane unice în procesele de selecție în resursele umane poate avea sens într-o lume în care inteligența artificială și automatizarea devin din ce în ce mai prevalente. Accentuarea acestor atribute poate ajuta la identificarea candidaților care aduc valoare adăugată în rolurile în care interacțiunea umană, creativitatea și gândirea critică sunt esențiale.

Folosirea acestor atribute în procesul de recrutare poate contribui la crearea unei forțe de muncă mai adaptabile și rezistente la schimbările tehnologice. De asemenea, poate ajuta organizațiile să se concentreze pe dezvoltarea culturii organizaționale și a valorilor umane, care pot fi greu de replicat prin intermediul tehnologiei.

Cu toate acestea, este important ca specialiștii în resurse umane să echilibreze aceste considerații cu nevoile specifice ale rolului și ale organizației. În unele cazuri, competențele tehnice și experiența în domeniu vor fi în continuare esențiale pentru succesul într-un anumit rol. Integrarea atributelor umane unice în procesul de selecție ar trebui să fie o componentă a unei abordări mai holistice a recrutării și dezvoltării personalului.

În încheiere te rog să transmiți un gând celor ce sunt sceptici în ceea ce privește inteligența artificiala sau celor ce se tem de ea.

Pentru cei sceptici sau îngrijorați în legătură cu inteligența artificială, este important să recunoaștem că preocupările voastre sunt valide și că dezvoltatorii și cercetătorii în domeniul AI trebuie să abordeze aceste temeri cu responsabilitate și transparență. Scopul IA-ului ar trebui să fie acela de a îmbunătăți viața oamenilor și a rezolva problemele complexe ale lumii, colaborând cu oamenii, nu înlocuindu-l.

Educația și dialogul sunt esențiale pentru a înțelege și a naviga în peisajul în continuă evoluție al inteligenței artificiale. Vă încurajăm să explorați și să vă implicați în discuții despre AI, să vă informați despre beneficiile și riscurile potențiale și să contribuiți la modelarea unui viitor în care tehnologia AI este dezvoltată și utilizată în mod responsabil, etic și în interesul întregii societăți.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp 

Abonează-te la newsletterul Republica.ro

Primește cele mai bune articole din partea autorilor.

Comentarii. Intră în dezbatere
  • Este fix invers
    Soarele va exploda cu tot cu Terra si noi trebuie sa dezvoltăm AI pentru a călătorii mii de ani catre alte planete
    unde sa creeze viață si oameni si AI
    (deja se pregătesc lucrurile - cei care fac acum rachete in privat nu au un hobby scump,
    nu sunt miliardari demenți, ci au un scop la care s-a lipit si NASA)
    Am formulat așa:
    Replicate Humanity in The Universe using Artificial Intelligence
    (mai multe detalii se gasesc ls Singularity University - o instituție de învățământ interesantă)
    ...
    Daca privești de aproape vezi invers - adica lumea nu stie ce să intrebe si o ia pe arătura
    Ar trebui intrebat "Cât de puternică trebuie sa fie AI pentru ca să rămână ceva după noi - poate și noi"
    Viața pe Terra nu este un drept așa cum ni se pare -
    Supraviețuirea este o luptă si AI este cea mai teribila armă pentru a realiza asta - muncim din greu ca să o dezvoltăm
    ...
    La KGB se pedepseste și "Omisiunea" - adică =
    AI conduce navetele noastre spațiale, replică viața pe alte planete,
    intre timp Soarele explodeaza si toate planetele din jurului lui.
    La destinație AI replica doar flori, iarbă și porci.
    Se uită in baza de date, îl vede pe Putin, verifică ce face el, și nu mai replică si oameni.
    Disparem nu pentru ca ne atacă AI ci pentru ca ar putea considera că suntem un pericol pentru planetele din Univers
    (Așa functionează Deep Learning - de fapt așa fac si copii cu mirror neurons -
    din cauza asta nu îi lăsam sa auda chiar tot ce vorbim si sa vada chiar tot ce facem).
    Mai multe aici
    https://docs.google.com/document/d/16nUzESaY3L0IgpJ5jqYy-MoRUCnHeGrIemkeLXlAlqs/edit?usp=sharing
    • Like 0
  • Am trimis via ChatGPT o simpla problema de text cognitiv, pe care a rezolvat-o fara sa 'clipeasca': Dacă în cinci minute cinci mașini produc cinci obiecte, de câte minute este nevoie ca 100 de mașini să producă 100 de obiecte?
    • Like 1
  • Ar fi o naivitate să credă cineva că IA nu se implementează deja în sistemele militare, tratând legile roboților scrise de Asimov ca pe versiuni perimate și neaplicabile IA pentru domeniului militar. Atâta doar că aceste sisteme au nume diferite, ca de exemplu, ISTAR (Intelligence, Surveillance, Target Acquisition, and Reconnaissance). Pericolul real al IA este să luăm de bune toate implementările "anglofone", disponibile comercial (COTS - Commercial Off-The-Shelf), fără să acordăm importanță dezvoltării independente a acestui domeniu de importanță strategică.
    • Like 0
  • Valentin check icon
    Este pusă în discuție problema gândirii în genereal. Și noi, oamenii, funcționăm pe un fel de recunoaștere de pattern-uri sociale. Un caz foarte interesant este cel al copiilor abandonați și crescuți de lupi. Se cunosc numeroase cazuri în istorie; celebra Carte a junglei e bazată pe un caz real. Tot un caz real stă la baza legendei celor doi gemeni care au fondat Roma, Romulus și Remus. Ultimul caz a existat undeva prin anii 80. Cazurile fascinează pentru că pun problema existenței personalității și conștiinței umane în afara societății. Cazul descoperit în anii 80 avea 16 ani și niciun contact cu societatea. Nu vorbea și probabil nici nu putea gândi, neavând noțiunile formate. N-a mai putut fi recuperat și nu s-a putut adapta noii vieți.
    Ar trebui să ne punem problema dacă nu cumva noi suntem roboții. Lipsiți de orice contact cu societatea ce am ajunge?
    • Like 1
  • Încercaţi să faceţi o analogie între inteligenţa artificială (IA) şi un nou-născut. Aşa cum nu-i poţi cere unui bebeluş să se ridice în picioare şi să alerge prin casă, nici IA nu-i poţi cere să-ţi facă minuni din primul an de funcţionare. Asemenea copilului, IA trebuie să înveţe şi să se perfecţioneze. Şi tot asemenea copilului, evoluţia sa depinde de educaţia primită: educaţia face diferenţa dintre un om matur, responsabil, şi un delincvent.

    Deci îngrijorarea mea în privinţa IA nu este existenţa acesteia, ci modul în care va fi educată. Şi având în vedere experienţele omenirii de-a lungul timpului... aici da, am muuuulte motive de îngrijorare.
    • Like 4
    • @ Dragoş Anghelache
      Sunt de acord. Dar astea au fost raspunsurile primite de la ea. Eu numai am intrebat si am consemnat.
      • Like 2
    • @ Florian Berghea
      Comentariul meu s-a dorit a fi doar o completare la interviul dumneavoastră. Din punctul meu de vedere (ca nespecialist) întrebările au fost bine alese, iar răspunsurile IA au fost (pentru mine) surprinzător de coerente. Temerea mea pentru viitor este comportamentul de ucenic vrăjitor pe care tindem să-l avem noi, oamenii. Dar, în definitiv, aşa cum am învăţat să trăim atât cu centralele nucleare cât şi cu bomba atomică, vom învăţa să trăim şi cu IA.
      • Like 3


Îți recomandăm

Solar Resources

„La 16 ani, stăteam de pază la porumbi. Voiam să-mi iau o motocicletă și tata m-a pus la muncă. Aveam o bicicletă cu motor și un binoclu și dădeam roată zi și noapte să nu intre cineva cu căruța în câmp. Că așa se fura: intrau cu căruța în mijlocul câmpului, să nu fie văzuți, făceau o grămadă de pagubă, călcau tot porumbul. Acum vă dați seama că tata nu-și punea mare bază în mine, dar voia să mă facă să apreciez valoarea banului și să-mi cumpăr motocicleta din banii câștigați de mine”.

Citește mai mult

Octavian apolozan

Tavi, un tânăr din Constanța, și-a îndeplinit visul de a studia în străinătate, fiind în prezent student la Universitatea Tehnică din Delft (TU Delft), Olanda, una dintre cele mai renumite instituții de învățământ superior din Europa. Drumul său către această prestigioasă universitate a început încă din liceu, când și-a conturat pasiunea pentru matematică și informatică.

Citește mai mult

Green Steps

100.000 de români au participat la marcarea a 100 de kilometri din traseul Via Transilvanica într-un mod ingenios. „Drumul care unește”, este un traseu turistic de lungă distanță, care traversează România pe diagonală, de la Putna la Drobeta Turnu Severin și este destinat drumeției pe jos, cu bicicleta sau călare. Via Transilvanica este semnalizată cu marcaje vopsite și stâlpi indicatori. Pe parcursul drumeției, călătorii vizitează ceea ce constructorii spun că este cea mai lungă galerie de artă din lume, pentru că la fiecare kilometru se găsește o bornă din andezit sculptată individual.

Citește mai mult

Testat e Hot

Vreau să vă arăt azi un program inedit de educație la firul ierbii: el începe chiar pe pajiștea a două festivaluri care atrag în fiecare an zeci de mii de tineri și își propune să fie un fel de curs introductiv într-o materie pe care școala românească se jenează să o predea.

Citește mai mult