Peste 600 de angajați Google au cerut companiei să respingă un posibil acord cu Pentagonul care ar permite utilizarea inteligenței sale artificiale în operațiuni militare secrete, potrivit unui comunicat publicat luni.
„Ne dorim ca AI-ul să fie în beneficiul umanității, nu folosit în moduri inumane sau extrem de dăunătoare”, se arată în scrisoarea deschisă adresată directorului executiv al Google, Sundar Pichai. „Acest lucru include arme autonome letale și supravegherea în masă, dar nu se limitează la acestea.”
Scrisoarea, semnată de angajați din cadrul Google DeepMind, Cloud și alte divizii, apare în contextul negocierilor dintre gigantul tech și Departamentul american al Apărării privind utilizarea modelului său de inteligență artificială Gemini în medii clasificate, relatează euronews.com.
Documentul a fost semnat în mod deschis de peste 20 de directori, directori seniori și vicepreședinți.
Temeri legate de utilizarea AI în scopuri militare
„Proiectele clasificate sunt, prin definiție, opace”, a declarat un angajat implicat în organizare, rămas anonim.
„În acest moment, nu există nicio modalitate de a garanta că instrumentele noastre nu vor fi folosite pentru a provoca daune grave sau pentru a eroda libertățile civile fără control public. Vorbim despre lucruri precum profilarea indivizilor sau țintirea civililor nevinovați.”
Scrisoarea vine pe fondul presiunilor tot mai mari asupra companiilor de tehnologie de a clarifica modul în care instrumentele lor de AI pot fi utilizate de armată și agențiile de informații, după o dispută între Pentagon și startup-ul de inteligență artificială Anthropic.
Disputa cu Anthropic și reacția administrației Trump
Anthropic a dat anterior în judecată Departamentul american al Apărării după ce a fost catalogată drept „risc pentru lanțul de aprovizionare”, în urma solicitării ca sistemele sale să nu fie utilizate pentru supraveghere în masă sau război autonom.
Directorul executiv al Anthropic, Dario Amodei, a declarat că „nu poate, cu bună conștiință, să accepte” cererea Pentagonului pentru acces nelimitat la sistemele AI ale companiei.
„Într-un set restrâns de cazuri, credem că AI-ul poate submina, nu apăra, valorile democratice”, a scris Amodei. „Unele utilizări sunt pur și simplu dincolo de ceea ce tehnologia actuală poate face în siguranță și în mod fiabil.”
Ca reacție la decizia lui Amodei, președintele SUA, Donald Trump, a ordonat instituțiilor guvernamentale să înceteze utilizarea chatbotului Claude.
Negocieri tensionate: ce vrea Google vs. ce cere Pentagonul
Potrivit organizatorilor scrisorii, Google a propus formulări contractuale care ar împiedica folosirea Gemini pentru supraveghere în masă pe plan intern sau pentru arme autonome fără un control uman adecvat.
Pentagonul a insistat însă pentru o formulare mai largă, de tip „toate utilizările legale”, argumentând că este necesară pentru a menține flexibilitatea operațională. Angajații spun că astfel de garanții ar fi greu de aplicat în practică, invocând politicile existente ale Pentagonului care limitează controlul extern asupra sistemelor sale AI.
Precedentul Project Maven
Declarația recentă a angajaților Google amintește de un protest similar din 2018, care a determinat compania să se retragă din Project Maven, o inițiativă a Pentagonului ce utiliza inteligența artificială pentru analiza imaginilor provenite de la drone.
„Credem că Google nu ar trebui să fie implicată în industria războiului”, se arată în scrisoare.
„Prin urmare, cerem anularea Project Maven și solicităm ca Google să elaboreze, să publice și să aplice o politică clară prin care să garanteze că nici compania, nici contractorii săi nu vor dezvolta tehnologii de război.”
