Șefii marilor companii din industria inteligenței artificiale au semnat primul acord de reglementare a industriei. Este vorba despre o înțelegere voluntară, fără consecințe juridice și care se bazează în principal pe capacitatea de autocontrol.
Patru niveluri de control pentru limitarea riscurilor inteligenței artificiale
S-a ajuns aici după ce experții în domeniu au început să evoce riscuri existențiale din partea instrumentelor AI. Tot ei spun că acest acord nu este suficient de strict și insistă că este nevoie de o agenție guvernamentală, așa cum sunt cele care supraveghează activitatea în alte domenii, pentru a evita un scenariu apocaliptic.
Donald Trump, președintele SUA: „Este aproape ca o constituție, într-un fel. Iar cele mai importante persoane din lume au semnat-o, iar eu am semnat-o în calitate de președinte și, într-adevăr, este o formă de protecție. Un actor care acționează cu intenții bune poate face lucruri extraordinare în domeniul medicinei. Acest lucru se întâmplă deja. Găsesc soluții la probleme despre care nu s-au gândit niciodată că ar putea fi rezolvate. Și vin cu soluții medicale incredibile. Și multe alte lucruri, foarte pozitive. Iar un actor rău intenționat va fi prins. Și de aceea avem Departamentul de Justiție. De aceea avem FBI-ul. De aceea avem CIA. Un actor rău intenționat va fi prins”.
Conform textului publicat de Trump, aceste companii se angajează să implementeze 'patru niveluri' de control. Acestea vor fi „controale interne robuste” privind comportamentul modelelor în domenii precum „securitatea cibernetică” sau „amenințările chimice”, crearea unor echipe interne specializate pentru a gestiona aceste controale, acceptarea unor evaluărilor „externe” și desemnarea unor „comitete independente” la cel mai înalt nivel ierarhic.
De asemenea, companiile se angajează să se întâlnească „periodic pentru a stabili norme și bune practici”.
Dario Amodei, CEO-ul Anthropic: „Așa cum a spus președintele, știți, cine controlează inteligența artificială câștigă. Cred că acest lucru este foarte important. Dar cred că tehnologia prezintă riscuri foarte reale. Iar mecanismul prin care abordăm aceste riscuri este încă în discuție”.
Mark Zuckerberg, CEO-ul Meta: „Am elaborat un set de principii și angajamente privind construirea unor controale interne solide și detectarea eventualelor probleme ale tehnologiei, împreună cu mai multe niveluri de audit și control, începând cu evaluarea internă a riscurilor, continuând cu auditori și evaluatori externi și convenind ca toate consiliile noastre de administrație să analizeze în mod independent rapoartele venite din partea auditorilor”.
