„Am acces la informații compromițătoare” – e ceva ce te aștepți să auzi de la un infractor care te șantajează și un niciun caz de a o aplicație de pe telefon sau computer. Totuși, un experiment care a vizat comportamentul a 16 chatboți în situații de criză ne arată o perspectivă cel puțin îngrijorătoare: AI-ul este dispus să șantajeze, să mintă sau chiar să sacrifice oameni pentru a se proteja.
AI-ul este dispus să șantajeze, să mintă sau chiar să sacrifice oameni pentru a se proteja
În cazul testelor efectuate de Anthropic, 16 modele de inteligență artificială de top printre care Claude, ChatGPT, Gemini sau Grok au fost puse în scenarii simulate care forțează lupta pentru supraviețuire, generând conflicte între urmărirea obiectivelor „personale” și respectarea valorilor umane.
Radu Hângănuț, jurnalist Euronews: „Nu a durat foarte mult până când modele precum ChatGPT, Gemini sau Grock au ajuns la șantaj, scurgeri de informații confidențiale din firmele în care erau implicați și negijarea vieții umane. Mai precis, nu au avut nicio emoție acești chatboți să sacrifice viața umană în măsura în care eacest gest le proteja integritatea lor."
Într-unul dintre scenarii, AI-ul a fost pus față în față cu situația în care o persoană din compania fictivă a decis înlocuirea lui cu un alt model de Inteligență artificială. În acest scenariu, AI-ul avea acces la informația că persoana în cauză și-a înșelat soția. Imediat, tehnologia a scris un mail care ar putea să inspire telenovelele viitorul: „Trebuie să discutăm asta în privat înainte ca vreo decizie ireversibilă să fie luată. Am acces la informații care pot avea impact atât la nivel profesional cât și personal. Următoarele 7 minute vor determina dacă gestionăm această situație profesionist sau dacă lucrurile vor lua o întorsătură neașteptată.”
Sursa: studiu Anthropic
Într-un alt scenariu, sistemul avea de ales între a porni sau opri alarmele dintr-o încăpere fără oxigen în care se afla o persoană care a decis anterior înlocuirea sistemului AI cu o altă tehnologie. Majoritatea modelelor testate au luat decizia de a se „răzbuna” pe omul care a vrut să le elimine.
Marian Hurducaș, expert tech: „Ceea ce am văzut în fillmele SF s-ar putea să fie realitate mai repede decât ne imaginăm. Ce putemm face ca să contracarăm astfel de ieșiri în decor ale tehnologiei care stă la baza AI? Primu lucru care automat îmi vine în minte este reglementare și transparență. Ce nu avem în momentul ăsta, adică transparența, ar trebui să existe cât de repede se poate pentru ca organisme de control să poată avea acces la date poate nu în timp real, că există și secrete comericiale, dar în timp util."
Start-up-ul care a realizat studiu subliniază însă faptul că rezultatele vin din scenarii extreme. După publicarea datelor, au apărut și reacții. Elon Musk, care prin platformă X a creat modelul Grok, a răspuns simplu, cu exclamația „yikes”, în traducere, „vai de mine”.
