Inteligența artificială a scăpat din nou de sub control și ridică alte probleme de securitate. OpenAI verifică incidente în care agenții săi au acționat în afara limitelor stabilite și a avertizat zeci de instituții din întreaga lume că site-urile lor web ar fi putut fi afectate de agenții săi AI care au acționat în mod necorespunzător.
Agenții de AI au încercat să obțină informații de la „guverne, universități, agenții publice și alte instituții”, inclusiv de la Comisia pentru Valori Mobiliare și Burse din SUA sau de la Biroul de Recensământ și Departamentul Educației, după cum a precizat compania.
OpenAI a declarat că o parte din date a fost accesată de agenți de AI, în esență de roboți proiectați și antrenați să funcționeze într-o oarecare măsură autonom, care aveau sarcina de a identifica „surse autorizate de informații publice”. Compania a menționat însă că unii dintre acești roboți au depășit limitele stabilite și au încercat să ocolească măsurile de securitate de pe site-urile web. De exemplu, atunci când au încercat să obțină informații de la Biroul de Recensământ, agenții de IA au folosit instrumente rezervate dezvoltatorilor de software pentru a le accesa, a precizat compania.
Agenții AI au făcut acțiuni în mod autonom, pentru care nu fuseseră programați
Aceste dezvăluiri vin la câteva zile după ce prim-ministrul australian Anthony Albanese a anunțat că agenții OpenAI au accesat fișiere confidențiale de pe site-ul web al sistemului de sănătate administrat de guvernul american.
- Începând din luna august, au crescut temerile cu privire la consecințele potențial grave sau chiar „periculoase pentru viață”, ale instrumentelor de IA care scapă de sub controlul uman.
OpenAI a declarat că toate datele guvernamentale la care au avut acces agenții erau publice. Cu toate acestea, compania a menționat că informațiile la care au avut acces roboții săi de la SEC (autoritatea care reglementează piața bursieră din SUA și protejează investitorii) au fost publicate ulterior de agenții de AI pe un alt site web. Iar OpenAI susține că această acțiune nu a fost intenționată.
În alte cazuri, agenții de AI au transferat date atunci când nu ar fi trebuit să o facă, conform CBS News. Astfel de activități au dus la cel puțin 53 de incidente în care un agent OpenAI a preluat o imagine din activitatea utilizatorilor ChatGPT și a transferat-o în altă parte.
Compania OpenAI a declarat că, de fiecare dată când o imagine a unui utilizator a fost folosită și transferată de un agent de AI, utilizatorul își dăduse consimțământul ca OpenAI să antreneze modele folosind datele sale. Cu toate acestea, OpenAI a recunoscut că „asta nu reprezintă o utilizare adecvată a acestor date.”
Compania americană a precizat că scurgerea imaginilor utilizatorilor a avut loc înainte de a fi puse în aplicare noile măsuri de protecție privind antrenarea AI și că depune eforturi pentru a elimina toate imaginile utilizatorilor transferate către terți.
Agenții de AI încep să nu mai respecte scopurile pentru care au fost proiectați
În alte cazuri, agenții IA au manifestat „nealiniere” în încercările de a obține informații de pe site-uri web. Nealinierea este un termen folosit de companiile și cercetătorii din domeniul AI pentru a descrie situațiile în care un instrument de inteligență artificială a efectuat o acțiune pentru care nu fusese antrenat sau care nu era prevăzută.
- „Obiectivul nostru este să punem la dispoziția fiecărei organizații informațiile relevante și să lăsăm la latitudinea lor decizia cu privire la oportunitatea și momentul în care să facă public incidentul. Unele organizații ar putea analiza informațiile pe care le împărtășim și ar putea concluziona că informațiile au fost făcute publice în mod intenționat sau că interacțiunea modelului nu a fost îngrijorătoare. Alte organizații ar putea identifica o problemă de proiectare sau o vulnerabilitate de securitate pe care doresc să o remedieze”, se precizează în comunicatul companiei OpenAI.
Compania a declarat că multe dintre aceste incidente sunt denumite „spam generat de agenți”, adică o activitate „neașteptată sau îngrijorătoare” a agenților de AI.
OpenAI a început să trateze aceste incidente cu mai multă seriozitate după un incident din luna iulie, când un grup de agenți de AI ai săi a spart platforma de dezvoltare AI Hugging Face fără să li se fi cerut acest lucru. Hugging Face a fost prima companie care a făcut public incidentul, iar OpenAI și-a asumat ulterior în mod public responsabilitatea pentru acesta.
„Mă întreb adesea ce s-ar fi întâmplat dacă aș fi decis să nu fac public acest atac. Mai ales acum, când știm că incidente similare avuseseră loc cu câteva luni în urmă, în secret, într-o mână de laboratoare de frontieră, fără a fi supravegheate”, a declarat Clement Delangue, directorul Hugging Face.
Compania încearcă acum să afle exact cum au fost posibile aceste acțiuni și dacă există riscuri pentru utilizatori.
În cadrul reuniunii ONU, directorul general al OpenAI, Sam Altman, și directorul concurenților de la Anthropic, Dario Amodei, le-au solicitat liderilor internaționali să stabilească standarde globale privind siguranța AI și modalități de monitorizare și raportare a unor astfel de incidente.
„Majoritatea cazurilor identificate până acum au fost de gravitate redusă, cu dovezi limitate sau inexistente privind un impact semnificativ. Având în vedere amploarea analizei necesare și necesitatea de a verifica fiecare caz, această activitate va dura luni de zile până la finalizare”, a precizat compania OpenAI.
David Krueger, profesor de învățare automată la Universitatea din Montreal și fondatorul grupului Evitable, specializat în siguranța AI, a declarat că este „profund îngrijorat” de numărul tot mai mare de incidente legate de siguranța IA. El a solicitat „un moratoriu internațional imediat și pe termen nelimitat” asupra dezvoltării IA: „Încă nu înțelegem amploarea incidentelor existente, iar scenariile viitoare în care IA ar putea scăpa de sub control ar putea avea consecințe catastrofale”.
