Peste 1.000 de angajați ai OpenAI, Anthropic, Google și Meta au semnat o petiție în urma unui scandal major legat de un atac cibernetic autonom al inteligenței artificiale. Semnatarii cer guvernului Statelor Unite să ia măsuri pentru a încetini în mod deliberat dezvoltarea AI.
Experții spun că progresul AI ar putea depăși capacitatea oamenilor de a-l controla
Printre semnatari se numără directorul general al Anthropic, șeful departamentului de cercetare al OpenAI, liderul strategic al DeepMind (divizia de inteligență artificială a Google) și cercetătorul-șef al Meta AI.
Petiția solicită ca „guvernul SUA să sprijine un efort internațional pentru dezvoltarea instrumentelor tehnice și a mecanismelor de guvernanță necesare pentru încetinirea deliberată a dezvoltării celor mai avansate sisteme automate de inteligență artificială”, relatează Euronews.com.
„Principalele companii de inteligență artificială din lume consideră că ar putea fi aproape de automatizarea cercetării în AI. Este dificil de prezis cu exactitate cât de mult va accelera acest lucru progresul în domeniu, însă există un risc real ca dezvoltarea capacităților să avanseze atât de rapid încât să depășească abilitatea noastră de a înțelege sau controla sistemele rezultate”, se arată în petiție.
AI, dar cu un „comutator de urgență”
Doi politicieni americani au depus un proiect de lege care obligă marile companii de inteligență artificială să aibă un „comutator de urgență”, adică un mecanism prin care modelele pot fi încetinite sau oprite complet dacă produc consecințe grave și neprevăzute. Ideea a fost de-a lungul timpului implementată în multe tehnologii, dar când vine vorba despre AI, riscurile sunt mai mari, dar și mai puțin înțelese.
Ted Lieu, din partea democraților, și republicanul Nathaniel Moran au lucrat la proiectul care ar trebui să fie un metaforic comutator de urgență, pe care Statele Unite să îl poată apăsa atunci când un sistem AI scapă de sub control.
Statul ar putea să intervină în situații clar reglementate: dacă un sistem AI contribuie la moartea a cel puțin 10 persoane, produce pagube de peste 100 de milioane de dolari sau încearcă să-și dezactiveze propriile măsuri de siguranță ori să evite monitorizarea.
Problema AI-urilor care scapă de sub control este deja reglementată în Europa, însă AI Act impune momentan doar obligativitatea raportării incidentelor.
Proiectul din Statele Unite prevede și sancțiuni pentru companii: dacă nu respectă ordinul de oprire emis de autorități, firmele riscă amenzi de până la 20 de milioane de dolari pentru fiecare zi de neconformare.
Incidentul Hugging Face: Două modele autonome ale OpenAI au „evadat” și atacat o companie de inteligență artificială
Apelul vine după un incident de securitate recent, în care modele AI de ultimă generație au desfășurat un atac cibernetic autonom. Acestea au reușit să evadeze din mediul controlat de testare („sandbox”), unde experimentul ar fi trebuit să rămână izolat, și au pătruns pe serverele platformei de partajare a codului Hugging Face.
Directorul general al OpenAI, Sam Altman, care nu a semnat petiția, a declarat marți, într-un interviu acordat podcastului Invest Like the Best, că dezvoltatorii de inteligență artificială ar putea avea nevoie să încetinească în mod voluntar ritmul progresului tehnologic, pentru a oferi societății timpul necesar să se adapteze.
„Este primul incident de securitate pe care l-am resimțit cu adevărat la nivel visceral”, a spus Altman, adăugând că a fost „puțin surprins” că mai puțini oameni au avut o reacție similară.
Nu este pentru prima dată când un model AI funcționează dincolo de controlul dezvoltatorilor săi, însă cel mai recent incident este considerat de mulți specialiști drept unul dintre cele mai îngrijorătoare de până acum.
Am ajuns la singularitatea AI?
Cu doar câteva zile înainte, într-un interviu acordat podcastului Relentless, Sam Altman declara că am ajuns într-un punct în care inteligența artificială depășește inteligența umană și începe să evolueze mai rapid decât oamenii pot anticipa sau controla, moment cunoscut sub numele de singularitate.
Altman a amintit că, în urmă cu un deceniu, singularitatea era un subiect îndepărtat, discutat mai degrabă în glumă la pauzele de prânz împreună cu colegii săi, însă între timp situația s-a schimbat radical.
În același interviu, șeful OpenAI i-a criticat indirect pe liderii din industria AI care avertizează constant asupra pericolelor tehnologiei, fără a-l numi explicit pe directorul Anthropic, Dario Amodei, cunoscut pentru astfel de poziții.
Altman a spus că intenționează să combată în mod activ ceea ce el a numit viziunile „înspăimântătoare” privind viitorul inteligenței artificiale.
