Sam Altman, directorul general al companiei OpenAI, a făcut apel la prudență în ceea ce privește progresele rapide înregistrate în domeniul inteligenței artificiale, în condițiile în care sistemele AI devin tot mai performante și autonome. Șeful companiei care a creat chatbotul Chatgpt a avertizat că această nouă tehnologie poate reprezenta fie „o nouă renaștere a creativității și a descoperirilor, fie o nouă revoluție industrială marcată de tulburări și haos”.
Sam Altman a vorbit în cadrul Consiliului de Securitate al Națiunilor Unite despre evoluția rapidă din domeniul inteligenței artificiale.
„Vorbim despre inteligența artificială (IA) de ani de zile, dar în ultimele săptămâni și luni situația pare să fi luat o altă turnură. Progresul rapid al modelelor a făcut ca termenul-limită să pară mai scurt, beneficiile mai tangibile, dar și mizele și riscurile mai imediate.
Ne aflăm în fața unei alegeri. AI poate fi fie o nouă renaștere a creativității și a descoperirilor, fie o nouă revoluție industrială marcată de tulburări și haos”, a spus Sam Altman, la ONU.
Referitor la posibilele riscuri generate de dezvoltarea inteligenței artificiale, Altman a făcut apel la o cooperare globală cu guvernele pentru a integra standarde în propriile sisteme juridice.
„Pe măsură ce sistemele de AI devin tot mai performante și mai autonome, acestea ar putea evolua mai repede decât instituțiile noastre, ar putea concentra puterea în mâinile unui număr prea mic de persoane sau ar putea lua decizii pe care oamenii nu le mai înțeleg sau nu le mai pot controla.
Această preocupare capătă o importanță deosebită pe măsură ce ne apropiem de sisteme capabile să se perfecționeze pe sine și să-și îmbunătățească versiunile viitoare, proces denumit adesea „autoîmbunătățire recursivă”. Pe măsură ce procesul de dezvoltare a IA devine tot mai automatizat, ritmul progresului în acest domeniu s-ar putea accelera rapid. Acest moment impune o prudență extremă”, a mai spus șeful OpenAI, potrivit AP.
De asemenea, Altman a precizat că „avem nevoie de o raportare precisă și rapidă a incidentelor, cu protocoale de clasificare și raportare, astfel încât lumea să poată învăța din eșecuri înainte ca acestea să se transforme în catastrofe.”
Alături de Sam Altman de la OpenAI, și alți directori ai marilor companii din domeniul inteligenței artificiale au făcut apel la Națiunile Unite să instituie măsuri de control asupra tehnologiei în plină expansiune pe care o dezvoltă pentru a salva lumea — sau, cel puțin, pe oamenii acesteia.
„Pentru ca AI să fie democratică, cele mai importante decizii nu pot fi luate doar de laboratoarele din San Francisco. Acestea trebuie să fie elaborate prin procese democratice și de către guverne care răspund în fața cetățenilor pe care îi servesc.
La nivel internațional, acest lucru va necesita cooperare. De-a lungul istoriei noastre, au existat momente în care țări aflate în competiție, care nu se simpatizează întotdeauna prea mult, s-au unit totuși pentru interese comune și pentru binele colectiv în fața unei noi tehnologii puternice. Credem că acesta trebuie să fie unul dintre acele momente.
Avem nevoie de un mecanism pentru standarde complementare naționale și internaționale de vârf în domeniul AI: standarde pentru măsurarea capacităților, evaluarea riscurilor, determinarea dacă măsurile de protecție sunt suficiente și menținerea unei supravegheri umane semnificative pe măsură ce sistemele devin mai autonome”, a mai precizat directorul executiv al OpenAI.
Consiliul de Securitate al Națiunilor Unite s-a reunit miercuri cu lideri din domeniul tehnologiei pentru a stabili cum ar trebui reglementată inteligența artificială și de către cine.
