Sari la continut
Republica
Comunicare

„Riscuri profunde pentru societate și umanitate”. Avertismentul a 1.000 de experți, alături de Elon Musk, privind antrenarea de sisteme de inteligență artificială mai puternice decât GPT-4

Chat GPT.

Foto: Kommersant Photo Agency / ddp USA / Profimedia

„Sistemele puternice de inteligență artificială ar trebui să fie dezvoltate numai după ce suntem siguri că efectele lor vor fi pozitive și că riscurile lor vor fi gestionabile", se arată într-o scrisoare deschisă semnată de Elon Musk și un grup de experți în inteligență artificială și manageri din domeniul AI, notează Reuters.

Semnatarii - între care regăsim nume grele din zona inteligenței artificiale, precum directorul general al Stability AI, Emad Mostaque, cercetători de la DeepMind a companiei Alphabet, printre care Yoshua Bengio și Stuart Russell - solicită o pauză de șase luni în antrenarea unor sisteme mai puternice decât modelul GPT-4 recent lansat de OpenAI din cauza unor potențialele riscuri pentru societate și umanitate.

Îți recomandăm

„Sistemele de inteligență artificială cu inteligență uman-competitivă pot prezenta riscuri profunde pentru societate și umanitate, după cum arată ample cercetări și după cum recunosc laboratoarele de vârf de inteligență artificială”, argumentează semnatarii, scrie Hotnews.ro.

În scrisoare sunt detaliate potențiale riscuri la adresa societății și civilizației din cauza sistemelor de inteligență artificială ce pot provoca dereglări economice și politice, documentul solicitând dezvoltatorilor de astfel de sisteme să colaboreze cu factorii de decizie politică și autoritățile de reglementare.

Aceasta vine în contextul în care forța de poliție a UE, Europol, s-a alăturat luni valului de preocupări etice și juridice cu privire la inteligența artificială avansată precum ChatGPT, avertizând cu privire la potențiala utilizare abuzivă a sistemului în încercările de phishing, dezinformare și criminalitate informatică.

Musk, al cărui producător de automobile Tesla folosește inteligența artificială pentru un sistem de pilot automat, și-a exprimat în mod vehement îngrijorarea cu privire la inteligența artificială.

De la lansarea sa de anul trecut, ChatGPT al OpenAI, susținut de Microsoft, a determinat rivalii să accelereze dezvoltarea unor modele lingvistice similare de mare amploare, iar companiile să integreze modele generative de inteligență artificială în produsele lor.

Sam Altman, directorul executiv al OpenAI, nu a semnat scrisoarea, a declarat pentru Reuters un purtător de cuvânt al Future of Life. OpenAI nu a răspuns imediat la solicitarea de declarații.

„Scrisoarea nu este perfectă, dar spiritul este corect: trebuie să încetinim până când vom înțelege mai bine implicațiile", a declarat Gary Marcus, profesor emerit la Universitatea din New York, semnatar al scrisorii.

„Ele pot provoca daune serioase... marii jucători devin din ce în ce mai secretoși cu privire la ceea ce întreprind, ceea ce face ca societății să-i fie greu să se apere împotriva oricăror efecte negative care s-ar putea materializa”, a adăugat el.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp 

Îți recomandăm
Abonează-te la newsletterul Republica.ro

Primește cele mai bune articole din partea autorilor.

Comentarii. Intră în dezbatere
  • Valentin check icon
    Nu știu cât ar trebui să încetinim, dar ar trebui să regularizăm mai repede, ca de exemplu implementarea obligatorie a unui cod moral predefinit pentru aceste programe.
    • Like 0
vezi toate comentariile
Subiecte din acest articol
Îți recomandăm

E.ON predictibilitate facturi

Din 1 iulie, jocul s-a schimbat complet în piața energiei. Asta înseamnă că furnizorii nu mai practică tarife reglementate, iar prețurile se stabilesc liber, în funcție de evoluția pieței. Da, asta a însemnat și facturi mai piperate pentru mulți dintre noi, așa că apare întrebarea firească: ce putem face ca să avem mai mult control asupra facturii lunare?

Citește mai mult

Fără poveste nu există design

Ezio Manzini este una dintre cele mai influente voci globale în domeniul designului pentru sustenabilitate și inovare socială. Profesor emerit la Politecnico di Milano și fost profesor de Design Industrial la Universitatea de Arte din Londra, Manzini a revoluționat modul în care înțelegem rolul designului în societate. Fondator al DESIS (Design for Social Innovation and Sustainability), o rețea internațională prezentă în peste 50 de universități din întreaga lume, el a fost printre primii care au articulat viziunea designului ca instrument de transformare socială și ecologică. Cărțile sale, printre care ”Design, When Everybody Designs" și "Politics of the Everyday", au devenit texte esențiale pentru designeri, arhitecți și inovatori sociali. Cu o carieră de peste patru decenii dedicată explorării modurilor în care designul poate facilita tranziția către o societate mai sustenabilă și mai justă, Manzini continuă să inspire generații de profesioniști să regândească relația dintre design, comunitate și mediu.

Citește mai mult

Hektar

Traian F1- gogoșarul rotund cu pulpă groasă, Kharpatos 1- ardeii lungi de un roșu intens la maturitate, Minerva F1- vânăta subțire cu semințe puține și miez alb, Prut F1- castravetele care nu se amărăște când îl arde soarele, Burebista- pepeni ovali cu coajă verde și miez zemos, Valahia F1, Daciana F1, Napoca F1. Zeci de soiuri hibrid de legume care poartă nume românești sunt realizate în serele private de cercetare HEKTAR, de lângă Câmpia Turzii.

Citește mai mult

Mara Barbos Niculescu

În România lui „învățăm simultan”- în aceeași oră, unii copii rezolvă probleme, iar alții silabisesc primele propoziții. Discuția cu Mara Barbos Niculescu (Director Regional Centru-Vest, Teach for Romania) oferă o imagine mai puțin vorbită la nivelul societății despre ceea ce se întâmplă în școlile vulnerabile. Clivajele adânci dintre comunități, decalajele de literație și numerație te obligă la gimnaziu, ca profesor, ori să înveți să construiești baza – citit, scris, socotit, ori să cauți sprijin din partea unui specialist.

Citește mai mult

Cartierul perfect

Nu e doar un loc pe hartă, ci o combinație de elemente care ne fac să ne simțim acasă, în siguranță și conectați. „Cartierul perfect” nu e o utopie, ci o lecție sau un model de locuire la comun. E o alfabetizare, spune Alexandru Belenyi, arhitectul care a coordonat, la inițiativa Storia, un proiect curajos în România încercând să răspundă la întrebarea: Ce înseamnă ”perfect” când e vorba de locuire?

Citește mai mult
Citește în continuare pe republica.ro