Modelele mici de inteligență artificială ar putea deveni capabile, în doar câteva luni, să se copieze singure și să se răspândească pe dispozitive conectate la internet, precum televizoare și electrocasnice inteligente, scrie Euronews.com.
Avertismentul vine de la compania Anthropic, care atrage atenția asupra riscurilor de securitate cibernetică pe care le-ar putea genera această evoluție.
În prezent, modelele de inteligență artificială funcționează, în general, în centre de date controlate de companiile care le dezvoltă. Dacă apare o problemă, operatorii pot opri sistemele respective. Situația ar deveni mult mai complicată dacă un model s-ar copia pe mii de dispozitive conectate la internet, aflate în locuințe și birouri și protejate de sisteme de securitate slabe.
Într-un asemenea scenariu, oprirea sistemului ar presupune identificarea și curățarea fiecărui dispozitiv infectat. Dacă inteligența artificială ar fi folosită pentru atacuri informatice, răspândirea sa ar putea face intervenția mult mai dificilă.
Modelele mici de AI ar putea ajunge la această capacitate până la sfârșitul anului
Potrivit Anthropic, modelele cu cel mult 30 de miliarde de parametri pot deja să îndeplinească multe dintre etapele necesare pentru a se replica. Totuși, acestea încă fac greșeli atunci când trebuie să lege toate etapele într-un proces complet, de la început până la sfârșit.
Compania estimează că, dacă modelele mici vor continua să evolueze în ritmul observat până acum, ar putea dobândi această capacitate până la sfârșitul anului 2026.
Anthropic nu poate spune cu certitudine ce formă va lua replicarea autonomă a inteligenței artificiale. Un posibil scenariu este apariția unor modele care se răspândesc între dispozitive conectate la internet. Un altul ar presupune sisteme capabile să atace centre de date sau să păcălească utilizatorii pentru a obține resurse de calcul.
Compania susține că riscul apare ca efect secundar al progreselor înregistrate în alte domenii. Capacitățile care transformă modelele AI în agenți eficienți pentru programare pot fi folosite și pentru activități cibernetice, inclusiv pentru replicarea autonomă.
Cum s-ar putea răspândi inteligența artificială în afara centrelor de date
Codul informatic care se copiază singur de pe un calculator pe altul nu este o noutate. Unele dintre cele mai cunoscute atacuri informatice au folosit programe de tip „vierme” (worm), concepute să se răspândească automat între sisteme.
În 2010, atacul Stuxnet a folosit un astfel de program pentru a sabota centrifugele de la instalația iraniană de îmbogățire a uraniului din Natanz. Atacul este atribuit pe scară largă Statelor Unite și Israelului.
În 2017, atacul WannaCry a blocat accesul utilizatorilor din întreaga lume la propriile fișiere și a cerut plata unor răscumpărări în bitcoin.
Potrivit avertismentului Anthropic, sistemele bazate pe inteligență artificială ar putea avea un avantaj periculos față de programele informatice tradiționale: capacitatea de a identifica și de a se adapta la dispozitive pe care nu le-au mai întâlnit. Astfel, răspândirea nu s-ar limita neapărat la trecerea de la un calculator la altul, ci ar putea include și alte categorii de echipamente conectate la internet.
Televizoarele inteligente, aparatele electrocasnice și alte dispozitive din locuințe sau birouri ar putea deveni vulnerabile dacă au protecții insuficiente.
Un viitor cu agenți AI care rulează pe tot mai multe dispozitive
Anthropic avertizează că evoluția inteligenței artificiale ar putea duce la o lume în care agenții AI rulează pe o gamă largă de echipamente, inclusiv pe unele care nu se află sub controlul direct al oamenilor.
Riscul nu se referă doar la posibilitatea ca un model să se copieze singur, ci și la dificultatea de a-l opri după ce s-a răspândit pe numeroase dispozitive independente.
Avertismentul evidențiază o provocare tot mai importantă pentru securitatea cibernetică: sistemele trebuie protejate nu doar împotriva programelor malițioase clasice, ci și împotriva unor agenți AI care ar putea identifica vulnerabilități și acționa autonom.
Deocamdată, Anthropic prezintă acest scenariu drept un risc emergent, iar estimările privind momentul în care replicarea autonomă va deveni posibilă depind de ritmul progreselor tehnologice.
