Google se confruntă cu probleme interne. Mai mulți angajați demisionează, ca urmare a utilizării de către companie a tehnologiei proprii de inteligență artificială în scopuri militare. Este vorba, în principal, de utilizarea DeepMind, conform BBC, care a discutat cu una dintre persoanele demisionare, Sofia Liguori, o ingineră în cercetare din Londra.
Ea a lucrat pentru Google timp de trei ani și a declarat că a decis să demisioneze din cauza colaborării tot mai intense a Google cu armatele SUA și Israelului.
„Faptul că îmi dau seama că firma mea promovează din ce în ce mai mult utilizarea sistemelor de inteligență artificială în operațiunile militare mă face să mă simt rușinată că lucrez la Google. Nu sunt de acord cu această direcție, iar acest lucru m-a determinat să-mi pierd încrederea în faptul că compania mea rămâne fidelă valorilor etice pe care le-a declarat”, a spus Liguori, în ciuda interdicției din contract privind detaliile jobului său.
„În principiu, nu am voie să critic Google pe toată durata vieții mele”, a declarat Sofia Liguori. Însă ea a decis să o facă „pentru că cred că este important ca aceste lucruri să fie cunoscute și, de asemenea, consider că a vorbi despre fapte nu înseamnă a critica”.
Ea spune că, la Google „oamenii se tem de represalii și de a-și pune în pericol cariera. Ai senzația că ești supravegheat, nu poți să vorbești”.
Alt angajat actual al Google DeepMind, care nu și-a dezvăluit identitatea, a declarat că „mulți angajați motivați, care s-au alăturat misiunii inițiale a companiei, ar putea pleca – dar există și un flux de oameni aflați la începutul carierei care ar putea ocupa acele posturi. Ar putea fi o schimbare de gardă”.
Un alt angajat al Google DeepMind, tot sub protecția anonimatului, a precizat: „Mulți angajați au părăsit compania, fiind profund nemulțumiți de această situație. Unii se opun cu tărie, alții se gândesc: E o companie mare. Ce te aștepți să se schimbe?"
Google insistă că instrumentele sale de AI respectă toate reglementările
„Colaborăm cu organizații din sectorul public din întreaga lume și urmăm un proces consecvent de analiză și încheiere a acestor contracte, care include respectarea politicilor noastre privind utilizarea acceptabilă și a principiilor noastre în materie de inteligență artificială. De asemenea, dispunem de canale dedicate prin care angajații pot semnala, în condiții de siguranță, orice problemă – de la aspecte legate de etica în afaceri, până la abateri disciplinare – și am instituit politici stricte la locul de muncă pentru a preveni orice formă de represalii”, a precizat un purtător de cuvânt al Google, potrivit sursei citate.
Google este una dintre numeroasele companii din domeniul tehnologiei care au semnat, la începutul acestui an, contracte cu armata SUA, pentru implementarea inteligenței artificiale în medii militare clasificate. Secretarul american al Apărării, Pete Hegseth, a făcut din integrarea inteligenței artificiale în forțele armate o prioritate cheie, afirmând că administrația Trump va deveni o „forță de luptă axată pe inteligența artificială”.
În contextul dezvoltării extrem de rapide a inteligenței artificiale, unii experți se întreabă dacă ceastă tehnologie este „suficient de fiabilă” pentru a fi utilizată în război fără teste suplimentare, măsuri de protecție mai stricte și supraveghere umană.
Conform Principiilor Google privind IA, aceste „valori” la care se referă demisionarii includ implementarea AI sub „supraveghere umană” și alinierea tehnologiei la „dreptul internațional și la drepturile omului”. În ciuda acestor reguli, foști și actuali angajați ai companiei, dar și unii experți și-au exprimat îngrijorarea cu privire la nivelul de supraveghere umană în momentele critice.
Iar ceea ce este și mai îngrijorător se referă la contractele militare privind utilizarea AI, semnate în acest an, pentru că acestea extind considerabil sfera de aplicare a tehnologiei de către Pentagon.
Andreas Kirsch, cercetător în domeniul AI, și-a dat și el demisia de la Google DeepMind la începutul acestei luni, din aceleași motive.
„Guvernanța și supravegherea practicate de Google nu sunt suficiente sau nu sunt suficient de semnificative pentru a implementa AI în mod sigur și responsabil în contexte militare și secrete sau pentru a dezvolta superinteligența artificială în condiții de siguranță în viitor. Se pare că Google nu are dreptul să controleze sau să-și exercite dreptul de veto asupra modului în care Pentagonul își folosește inteligența artificială și, de asemenea, pare să aibă o vizibilitate limitată asupra modului în care aceasta este implementată. (...) Modelele actuale de IA nu sunt suficient de robuste și nu cred că au fost antrenate pentru astfel de sarcini”, a spus Andreas Kirsch.
Una dintre tehnologiile bazate pe inteligența artificială implementate de SUA în ultimii ani este Maven Smart Systems, principala platformă software a Pentagonului destinată organizării informațiilor și a datelor. Scopul este de îmbunătățire a capacităților de luptă. Maven Smart Systems este dezvoltată de compania americană de apărare Palantir și utilizează AI pentru a ajuta personalul să selecteze și să identifice țintele care urmează să fie lovite. Palantir a integrat în Maven tehnologia mai multor companii de top din domeniul AI, ceea ce a permis accelerarea semnificativă a unor proceduri.
Generalul-locotenent în rezervă Jack Shanahan, fostul director al Proiectului Maven, a afirmat că „filosofia” pare să fie: „Să acționăm cât mai repede posibil pentru a implementa tehnologia AI pe o scară cât mai largă, eventual în detrimentul rigurozității și disciplinei proceselor de testare și evaluare.”
- Pentagonul a susținut că adoptarea tehnologiilor de IA este esențială pentru câștigarea războaielor.
„Viteza definește victoria în era AI”, a declarat Emil Michael, subsecretar în cadrul Departamentului Apărării al SUA.
Contractul încheiat de Google cu Pentagonul, semnat la începutul acestui an, permite utilizarea tehnologiei sale de inteligență artificială în cadrul unor activități militare clasificate. Acordul prevede că modelele de inteligență artificială ale Google pot fi utilizate pentru „orice scop guvernamental legal” și „nu ar trebui utilizate pentru supravegherea în masă pe plan intern sau pentru arme autonome (inclusiv selectarea țintelor) fără o supraveghere și un control uman adecvat”.
Contracte similare au fost semnate de OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia și start-up-ul Reflection, pentru a permite implementarea tehnologiei AI într-o serie de contexte militare, precum transportul, planificarea și operațiile de pe câmpul de luptă. Însă pe măsură ce tehnologia evoluează rapid, cresc îngrijorările cu privire la utilizarea AI în teatrele de război.
„Inteligența artificială reduce timpul de care dispune un operator pentru a lua o decizie, deoarece funcționează mult mai repede decât o persoană, iar acest lucru este deosebit de riscant într-un mediu cu un nivel ridicat de stres. Atunci când ai sute de ținte selectate de AI și dispui de foarte puțin timp, este aproape imposibil ca un operator uman să verifice în mod riguros rezultatele generate de IA pentru a identifica eventualele erori”, a declarat Sarah Shoker, fostă șefă a echipei de geopolitică a OpenAI.
Nu doar acordurile Google cu armata SUA au stârnit controverse, ci și acordurile cu Israelul. În 2024, compania a fost criticată de angajați pentru un contract în comun cu Amazon, în valoare de 1,2 miliarde de dolari, denumit „Project Nimbus”, care furnizează guvernului și armatei israeliene tehnologie de inteligență artificială și infrastructură de cloud computing. La momentul respectiv, Google a declarat că „Project Nimbus nu vizează sarcini extrem de sensibile, clasificate sau militare legate de arme sau de serviciile de informații”.
În plus, capacitățile Israelului în domeniul inteligenței artificiale aplicate în război au fost în centrul dezbaterilor după ce au fost prezentate într-un documentar recent, intitulat „Naza”, care analizează rolul sistemelor de țintire bazate pe IA în bombardarea Fâșiei Gaza, ceea ce a dus la un număr mare de victime în rândul civililor. Un ministru al guvernului israelian a afirmat că afirmațiile prezentate în film sunt false și denaturate.
