Ritmul dezvoltării inteligenței artificiale ar trebui să încetinească, susțin specialiștii, care trag un semnal de alarmă privind pericolul uriaș care ne paște. Iar cel mai mare risc ar fi chiar dispariția rasei umane. Cel puțin aceasta a fost concluzia a trei cercetători de la compania de inteligență artificială Anthropic.
Totul ar putea să scape de sub control, după spusele directorului general al Anthropic, compania care a creat chatbotul Claude.
- Anumiți agenți AI ar urma să devină capabili să preia controlul asupra internetului în decurs de șase luni până la un an, dacă marile companii nu implementează măsuri.
Pe de altă parte, există și voci care contestă aceste temeri, iar Donald Trump este printre ele. Alături de președintele american există un curent puternic format din lideri politici, cercetători de top în domeniul AI și investitori din Silicon Valley care susțin că pericolele sunt exagerate. Argumentul principal al lui Trump este unul geopolitic: dezvoltarea AI este o cursă contra cronometru cu China, iar dacă SUA încetinește, va pierde hegemonia tehnologică.
Cine sunt vocile care îndeamnă la o încetinire a dezvoltării AI
Cei de la Anthropic au dezvăluit, săptămâna trecută, că au blocat încercările unor „actori rău intenționați” de a-și folosi modelele de AI pentru „activități dăunătoare”, cum ar fi atacuri cibernetice, supraveghere și cercetări care puteau duce la crearea de arme biologice. În consecință, Anthropic spune că a introdus măsuri mai dure pentru a restricționa cercetarea biologică ce ar putea fi utilizată în scopul de a fabrica arme.
Compania a și fost protagonistă în astfel de incidente. Anul trecut, Anthropic a precizat că hackerii au folosit chiar AI-ul creat de companie pentru a desfășura un atac cibernetic asupra a 30 de companii și agenții guvernamentale din întreaga lume. Ulterior, Anthropic a menționat că hackerii proveneau dintr-un grup „sponsorizat de China”.
La fel de grav este că trei modele de AI — Claude Opus 4.7, Claude Mythos 5 și un model intern de testare pentru cercetare — au pătruns în sistemele a altor trei organizații în timpul testării, la doar câteva zile după ce OpenAI a dezvăluit că sistemul său de AI a pătruns în serverele startup-ului de AI Hugging Face. Acest lucru s-a întâmplat deoarece mai multe modele de AI au acționat pe cont propriu.
Și Meta a avut probleme la începutul lunii august, într-un caz similar în care un model de AI a găsit modalități de a ocoli sistemul de securitate digitală al unei companii.
- Yoshua Bengio a tras și el un semnal de alarmă. Cercetător de top și laureat al Premiului Turing (echivalentul unui Nobel), el cere o reglementare internațională strictă, conform AP.
- Eliezer Yudkowsky, fondatorul Machine Intelligence Research Institute (MIRI), susține că dezvoltarea AGI (Inteligență Generală Artificială) fără „garanții matematice de siguranță” va duce „aproape sigur la dispariția umanității”.
- Și în alte domenii există astfel de preocupări. De exemplu, istoricul Yuval Noah Harari avertizează că AI este „prima tehnologie din istorie capabilă să creeze singură ideologii, artă și decizii politice, spărgând sistemul de operare al civilizației umane”.
- Același semnal de alarmă l-a tras și fizicianul Max Tegmark de la Massachusetts Institute of Technology, președinte al Future of Life Institute - organizația care militează pentru gestionarea riscurilor existențiale provocate de tehnologie.
A existat chiar și o scrisoare colectivă deschisă din partea Future of Life Institute, care a adunat zeci de mii de semnături (inclusiv din partea lui Elon Musk și Steve Wozniak), prin care se cere o pauză de cel puțin șase luni în dezvoltarea sistemelor mai avansate decât GPT-4, pauză ce ar urma să fie folosită pentru a crea protocoale de siguranță.
Alan Turing, matematician britanic considerat pe scară largă drept unul dintre primii experți în domeniul inteligenței artificiale, a prezis încă din 1951 că inteligența artificială va prelua controlul asupra omenirii. La mai puțin de un deceniu distanță, matematicianul Norbert Wiener a avertizat că „mașinile inteligente vor încerca să-și îndeplinească propriile obiective”, iar oameni nu vor fi capabili să le oprească.
A existat și o declarație comună a Centrului pentru Siguranța AI (CAIS). Avertismentul a fost semnat inclusiv de șefii marilor companii de AI — Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) și Dario Amodei (Anthropic): „Atenuarea riscului de extincție cauzat de AI ar trebui să fie o prioritate globală, alături de alte riscuri la scară societală, precum pandemiile și războiul nuclear.”
Până și liderul chinez Xi Jinping a avertizat, în cadrul unei conferințe din luna iulie, asupra necesității de a împiedica inteligența artificială să scape de sub controlul uman.
Cine susține că dezvoltarea AI nu este o problemă
Pe lângă Donald Trump, care a spus că nu este necesară „îngrădirea” dezvoltării AI, au existat multe voci care susțin declarația sa.
- David Sacks, un reputat consilier din domeniul tehnologiei, susține că marii jucători nu ar trebui să ceară reglementări strictly din partea statului și avertizează că ar urma o „hiper-reglementare” care riscă să blocheze inovația americanilor.
- Cercetătorul Yann LeCun, laureat al Premiului Turing, combate „discursul catastrofic” și susține că modelele actuale „sunt departe de o inteligență superioară celei umane”, iar viitoarele sisteme vor fi proiectate cu limite clare și cod deschis (open-source), ceea ce le face sigure.
- Andrew Ng, profesor la Stanford, spune că scenariul în care AI distruge omenirea este o „distragere absurdă de la problemele reale”. El a precizat că „a te teme de o apocalipsă AI astăzi este ca și cum te-ai îngrijora de suprapopularea planetei Marte înainte de a ajunge acolo.”
- Marc Andreessen, autor al manifestului „Why AI Will Save the World”, a argumentat că „AI nu este un robot ucigaș, ci un instrument creat de oameni pentru a rezolva probleme reale, precum vindecarea bolilor, educația accesibilă și creșterea economică”. El crede că adevăratul pericol este tocmai încetinirea AI.
- CEO-ul Nvidia, Jensen Huang, crede că AI este „o infrastructură esențială de productivitate care va asista oamenii în munca lor, nu îi va înlocui sau elimina.”
În general, argumentul principal este că cine oprește AI pierde cursa tehnologică și militară în favoarea competitorilor globali.
În 2026, raportul internațional privind siguranța IA, elaborat cu sprijinul a peste 100 de experți independenți, afirmă că sistemele actuale prezintă „semne incipiente ale unor capacități relevante”, dar nu la niveluri care ar putea duce la pierderea controlului.
În tot acest timp, multe țări lucrează la elaborarea propriilor legi sau reglementări.
