„Avem o datorie față de umanitate”. Este avertismentul lansat de Dario Amodei, directorul executiv al companiei Anthropic, una dintre cele mai importante companii din cursa pentru dezvoltarea inteligenței artificiale.
Amodei spune că ritmul în care avansează inteligența artificială trebuie încetinit, pentru ca măsurile de siguranță să poată ține pasul cu tehnologia. Potrivit scenariilor prezentate de șeful Anthropic, în doar câteva luni am putea ajunge într-un punct în care sisteme AI extrem de puternice să fie capabile să coordoneze roiuri de agenți care ar putea prelua controlul asupra întregului internet.
De ce șeful Anthropic cere încetinirea ritmului în care se dezvoltă AI: Am putea reduce considerabil riscul ca ceva să meargă extrem de rău
Dario Amodei este una dintre principale voci în ceea ce privește dezvoltarea inteligenței artificiale. Într-o postare pe site-ul său, el a prezentat un plan pentru intensificarea controalelor asupra industriei. El a afirmat că Anthropic pune deja în aplicare o parte din acest plan pe cont propriu, în timp ce celelalte măsuri ar necesita o coordonare la nivelul întregii industrii și cu Guvernele din întreaga lume.
„Cred că, dacă încetinirea ritmului ne-ar oferi chiar și un an sau doi în plus înainte ca modelele să atingă niveluri critice de capacitate și am folosi acest timp pentru a avansa alinierea, am putea reduce considerabil riscul ca ceva să meargă extrem de rău”, a spus Amodei, potrivit AP.
Avertismentele nu se opresc aici. Jacob Coxon, un fost cercetător al Anthropic și-a făcut publică îngrijorarea cu privire la dezvoltarea necontrolată a inteligenței artificiale. Într-un interviu acordat BBC, el spune că oamenii care lucrează în aceste companii sunt îngroziți de viteza cu care avansează tehnologia.
De altfel, Coxon a spus că există o probabilitate mai mare de 10% ca în următorul deceniu omenirea să fie anihilată de inteligența artificială.
Dario Amodei, pentru CNN: Oamenii nepotriviți vor ajunge să controleze tehnologia. Asta va face ca probabilitatea ca lucrurile să meargă prost să fie foarte mare
Într-un interviu acordat postului CNN, Dario Amodei a explicat că Jacob Coxon „nu ne critica pe noi, ci atrăgea atenția asupra dinamicii industriei în ansamblu, care evoluează prea repede”. Din acest motiv, șeful Anthropic a făcut apel la companiile care dezvoltă inteligența artificială să colaboreze între ele pentru ca această tehnologie să ajungă să fie controlată de „oamenii nepotriviți”.
„Este o modalitate destul de simplă de a exprima ideea că există o anumită șansă ca lucrurile să meargă prost, dar că aceasta nu este foarte mare. Însă, din nou, cred că este mult mai relevant să ne gândim la modul în care descompunem aceste probabilități. Care sunt căile prin care lucrurile pot merge bine?
Și care sunt căile prin care lucrurile pot merge prost? Așadar, în loc să spunem că există o șansă de 10%, ceea ce sună ca și cum am da cu zarul, cred că este mult mai relevant să spunem: ei bine, de aici se ramifică mai multe direcții. Iar dacă alegem direcțiile corecte, atunci probabilitatea ca ceva să meargă prost este foarte scăzută. Dacă alegem direcțiile greșite, atunci probabilitatea ca lucrurile să meargă prost ar putea fi chiar mai mare decât atât. Prin urmare, să ne concentrăm asupra capacității noastre de a acționa și asupra posibilității noastre de a alege direcțiile corecte în locul celor greșite. Și cred că modalitatea de a urma direcțiile corecte este ca industria să colaboreze.
(...) Industria trebuie să colaboreze și este mai dificil, însă, într-o anumită măsură, lumea trebuie să colaboreze dacă ne mișcăm prea încet. Eu încă cred că oamenii nepotriviți vor ajunge să controleze tehnologia și, din nou, asta va face ca probabilitatea ca lucrurile să meargă prost să fie foarte mare”, a declarat Amodei, la CNN.
Șeful Anthropic vrea ca inteligența artificială să aibă reglementări precum cele din domeniul bancar
Dario Amodei propune gestionarea ritmului în care inteligența artificială se dezvoltă. Propune un plan bazat pe trei componente. Una dintre acestea implică prezența unor evaluatori, similar modului în care se desfășoară activitatea în domeniul bancar. Ideea sa a fost sprijinită de Sam Altman, directorul executiv al OpenAi, precum și de miliardarul Elon Musk.
„Există un precedent pentru acest lucru. Dacă te uiți la modul în care sunt reglementate băncile, există tot felul de reguli cu privire la modul în care băncile își pot desfășura activitatea, nu-i așa? Pentru că nu vrem să avem crize financiare.
Cred că în industria financiară sunt numiți supraveghetori — existența unor persoane independente de o companie, dar care sunt integrate în cadrul companiei, zi de zi, pentru a verifica practicile acesteia. Și cred că putem face același lucru și în domeniul AI”, a explicat Amodei.
Coordonarea democratică pentru dezvoltarea AI
De asemenea, șeful Anthropic propune ca la nivel global să existe o coordonare democratică în ceea ce privește inteligența artificială.
„Este vorba despre gestionarea ritmului între companiile din țările democratice. Unul dintre lucrurile importante pe care trebuie să le subliniez aici este că, atunci când ajungem la ritmul lansării modelelor, vorbim despre activitate comercială. Iar pentru ca firmele să se coordoneze direct în ceea ce privește activitatea comercială, trebuie să facă acest lucru colaborând cu Guvernul.
Așadar, rolul guvernului în acest moment — și, evident, există și întrebarea despre cum ar trebui să arate reglementările — este că există ceva chiar mai simplu pe care Guvernul îl poate face acum. Se poate așeza la aceeași masă cu toți actorii din industrie și putem discuta cu toții împreună, iar Guvernul se poate asigura că nu facem nimic nelegitim din perspectiva legislației antitrust și a înțelegerilor anticoncurențiale. Noi încercăm doar să facem sistemele noastre sigure și să colaborăm pentru a le face sigure. Și cred că acesta este un rol important pe care guvernul trebuie să îl aibă”, a concluzionat el.
