Michael Burry, investitorul devenit celebru după ce a anticipat prăbușirea pieței imobiliare americane din 2008, îi acuză pe liderii unora dintre cele mai mari companii de inteligență artificială că își urmăresc propriile interese atunci când cer încetinirea dezvoltării tehnologiei. Burry susține că avertismentele privind riscul ca AI să devină o amenințare pentru omenire contribuie la „hype-ul” din jurul industriei și pot crește percepția asupra valorii companiilor înaintea unor eventuale listări la bursă, potrivit Business Insider.
Burry nu este singurul care privește cu scepticism apelul șefilor industriei. Alte voci din tehnologie și cercetare pun sub semnul întrebării soluțiile propuse de aceștia. Liderii companiilor AI susțin însă că riscurile sunt reale și că dezvoltarea celor mai avansate sisteme începe să avanseze mai repede decât măsurile luate pentru a le controla.
Michael Burry: Avertismentele șefilor AI sunt „în propriul lor interes”
Burry a reacționat după ce Dario Amodei, CEO-ul Anthropic, a cerut industriei să încetinească ritmul în care dezvoltă cele mai avansate modele de inteligență artificială. Sam Altman, Elon Musk și alți lideri din domeniu și-au exprimat ulterior sprijinul pentru ideea unei dezvoltări mai prudente.
Investitorul consideră însă apelurile venite din partea marilor companii drept „self-serving”, adică făcute în propriul lor interes.
Burry își argumentează poziția prin patru idei principale. În primul rând, el nu consideră că actualele modele lingvistice, precum ChatGPT sau Claude, reprezintă drumul către inteligența artificială generală, AGI. Din acest motiv, susține că nu există „nimic” a cărui dezvoltare să trebuiască încetinită.
În al doilea rând, Burry spune că o încetinire a dezvoltării AI ar avantaja companiile care domină deja piața și ar face mai dificil pentru rivalii mai mici să recupereze decalajul.
Al treilea argument este legat direct de bani și de eventualele listări la bursă. Burry susține că prezentarea inteligenței artificiale drept o tehnologie atât de puternică încât ar putea amenința existența omenirii contribuie la „hype-ul și exagerările” care însoțesc ofertele publice inițiale.
Pe newsletterul său de pe Substack, „Cassandra Unchained”, Burry a susținut că liderii Anthropic și OpenAI sprijină încetinirea dezvoltării AI pentru „a crește percepția asupra puterii lor înaintea IPO-urilor”.
În cele din urmă, investitorul spune că o încetinire intenționată ar putea oferi „acoperire pentru o încetinire reală și incontrolabilă a creșterii”.
Afirmațiile privind motivațiile OpenAI și Anthropic reprezintă însă interpretarea lui Burry. Informațiile prezentate de Business Insider nu demonstrează că avertismentele privind siguranța AI fac parte dintr-o strategie coordonată pentru creșterea valorii companiilor înaintea unor listări la bursă.
Burry nu este singurul care privește cu suspiciune apelurile șefilor AI
Apelul lansat de Dario Amodei a atras critici și din alte direcții, chiar dacă acestea nu susțin neapărat acuzația lui Burry privind listările la bursă.
David Sacks, co-președinte al consiliului de consilieri pentru știință și tehnologie al președintelui SUA, a pus sub semnul întrebării necesitatea unui mecanism mai larg pentru încetinirea industriei.
„Cel mai simplu mod de a nu construi superinteligența este să fiți de acord să nu o construiți”, i-a transmis Sacks lui Amodei, potrivit The Guardian.
Sacks a criticat și ideea ca încetinirea să fie legată de adoptarea cadrului de reglementare propus de liderii industriei, avertizând că o astfel de abordare ar putea fi percepută drept o formă de presiune asupra autorităților.
O altă critică vine de la Stuart Russell, profesor la University of California, Berkeley și unul dintre cercetătorii cunoscuți în domeniul inteligenței artificiale. Russell nu respinge riscurile AI, ci consideră că soluția propusă de Amodei este greșită.
Russell susține că industria nu ar trebui să stabilească pur și simplu un ritm mai lent de dezvoltare și apoi să spere că măsurile de siguranță vor recupera decalajul.
În opinia sa, ar trebui stabilite mai întâi cerințe clare de siguranță, iar dezvoltarea sistemelor să continue numai după ce acestea sunt îndeplinite.
Russell a comparat situația cu industria farmaceutică: o companie nu ar putea decide să lanseze câte un nou medicament împotriva cancerului în fiecare an și doar să spere că există suficient timp pentru efectuarea testelor clinice.
Ce spune Dario Amodei: „Trebuie să încetinim ritmul”
Dario Amodei susține însă că dezvoltarea AI a ajuns într-un punct în care măsurile de siguranță riscă să nu mai țină pasul cu noile capabilități.
În eseul său „We Must Pace the Frontier”, CEO-ul Anthropic spune că inteligența artificială ar putea aduce beneficii uriașe, de la accelerarea cercetării medicale până la creșterea economică, dar avertizează că aceeași tehnologie vine și cu riscuri serioase.
Printre acestea, Amodei enumeră pierderea controlului asupra sistemelor AI, utilizarea lor pentru atacuri cibernetice sau bioterorism și perturbări economice majore.
Soluția propusă de el nu este oprirea dezvoltării AI.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor AI”, scrie Amodei. El precizează că progresul ar continua să fie rapid, dar timpul câștigat ar trebui folosit pentru dezvoltarea și verificarea măsurilor de siguranță.
Una dintre principalele sale propuneri este introducerea unor evaluatori independenți în interiorul companiilor care dezvoltă cele mai avansate modele AI. Aceștia ar urma să primească un nivel ridicat de acces la sistemele companiilor pentru a putea verifica riscurile și respectarea angajamentelor de siguranță.
Sam Altman și Elon Musk susțin apelul lui Amodei
Apelul lui Amodei a produs un moment rar de consens între lideri ai unor companii care concurează direct.
Sam Altman a declarat că este de acord cu ideea că industria trebuie să controleze mai atent ritmul dezvoltării modelelor de frontieră și a anunțat că OpenAI va permite evaluatorilor independenți un nivel ridicat de acces în companie.
Elon Musk și-a exprimat, la rândul său, sprijinul pentru Amodei, potrivit Business Insider.
Propunerile ridică însă o altă problemă: cât de independenți pot fi evaluatorii dacă accesul lor depinde chiar de companiile pe care trebuie să le supravegheze.
Avertismentele nu vin doar de la șefii companiilor AI
Unul dintre principalele contraargumente la teoria potrivit căreia avertismentele sunt doar o modalitate de a alimenta interesul în jurul AI este faptul că unele dintre cele mai dure avertismente nu au venit de la directorii companiilor.
Dezbaterea s-a amplificat după plecarea cercetătorului Jacob Coxon de la Anthropic. Acesta a acuzat marile laboratoare AI că se îndreaptă spre o superinteligență capabilă să se îmbunătățească singură și că „se joacă cu viețile noastre”, potrivit The Washington Post.
Coxon a insistat că avertismentele privind riscurile AI nu reprezintă o strategie de marketing.
Un alt cercetător Anthropic, Evan Hubinger, a mers și mai departe.
„Chiar credem sincer că AI ar putea ucide toți oamenii”, a scris acesta. Hubinger a estimat la peste 10% probabilitatea unui astfel de scenariu în următorul deceniu și a afirmat că problema alinierii unei eventuale superinteligențe nu este încă rezolvată.
Este vorba despre estimarea personală a cercetătorului, nu despre o probabilitate demonstrată sau acceptată de comunitatea științifică.
Avertismentele șefilor AI au lovit și bursele
Disputa are și o miză financiară imediată. Acțiunile companiilor asociate inteligenței artificiale au scăzut după ce liderii industriei au început să vorbească despre necesitatea încetinirii dezvoltării tehnologiei, potrivit Reuters.
Indicele Philadelphia Semiconductor a pierdut 5,2%, iar printre companiile afectate s-au numărat Nvidia, AMD și Micron. Scăderi importante au fost înregistrate și de companii tehnologice din Asia.
Reuters notează că declarațiile au ridicat semne de întrebare în rândul investitorilor asupra ritmului în care vor continua investițiile uriașe în cipuri, centre de date și infrastructură AI.
OpenAI a decis, de asemenea, să amâne o eventuală ofertă publică inițială cel puțin până anul viitor. Această decizie este relevantă în raport cu acuzația lui Burry, care leagă avertismentele privind riscurile AI de interesul financiar din jurul viitoarelor IPO-uri.
Anthropic continuă însă pregătirile pentru o eventuală listare.
Hype pentru miliarde sau un pericol real?
Disputa dintre Burry și liderii industriei pornește, în cele din urmă, de la două interpretări foarte diferite ale aceluiași fenomen.
Burry consideră că prezentarea AI drept o tehnologie atât de puternică încât ar putea amenința omenirea îi ajută pe liderii pieței să amplifice interesul în jurul companiilor lor și că o încetinire coordonată ar putea proteja jucătorii deja dominanți de concurență, potrivit Business Insider.
Dario Amodei susține, în schimb, că riscurile sunt suficient de serioase încât industria trebuie să lase măsurilor de siguranță timp să țină pasul cu dezvoltarea tehnologiei.
Iar avertismentele unor cercetători precum Jacob Coxon și Evan Hubinger arată că temerile privind evoluția AI nu sunt exprimate doar de directorii companiilor care ar putea avea un interes financiar în amplificarea importanței tehnologiei.
Deocamdată, însă, acordul liderilor industriei pare mai clar în privința necesității de a încetini decât în privința modului concret în care acest lucru ar trebui făcut.
