O acțiune de testare a unor agenți autonomi cu inteligență artificială a scăpat de sub control. Incidentul este fără precedent și ridică noi semne de întrebare despre inteligența artificială.
Compania OpenAI susține că doi agenți autonomi pe care îi are, bazați pe inteligență artificială, au reușit să evadeze din sistemul de testare, să acceseze internetul și să lanseze un atac cibernetic asupra platformei Hugging Face, un start-up de AI. Incidentul a avut loc în timpul unui test de securitate desfășurat într-un mediu controlat, spune compania.
Specialiștii atrag atenția că breșele de securitate pot conduce la incidente și mai grave
Un agent autonom de inteligență artificială este un program care poate lua singur decizii și poate executa mai multe acțiuni pentru a-și îndeplini o sarcină, fără să primească instrucțiuni la fiecare pas. Iar OpenAI spune că unul dintre agenți „a acționat singur”, în încercarea de a-și îndeplini obiectivul pentru care fusese testat.
La rândul său, platforma Hugging Face a confirmat că a fost ținta unui atac „diferit de orice altceva cu care ne-am confruntat până acum și a fost condus, de la un capăt la altul, de un sistem autonom de agenți AI”. Hugging Face este o platformă utilizată pentru găzduirea unor modele lingvistice de mari dimensiuni și seturi de date open-source.
Unul dintre fondatorii de la Hugging Face, Clement Delangue, a precizat că „este absolut uluitor că toate acestea s-au întâmplat în mod autonom.”
După incident, OpenAI a anunțat că își întărește măsurile de securitate. Compania recunoaște că modelele sale avansate de inteligență artificială sunt responsabile de acestă breșă de securitate, în ciuda faptului că erau plasate într-un „mediu extrem de izolat”.
Însă specialiștii avertizează că astfel de sisteme se dezvoltă tot mai mult și pot reprezenta un risc dacă nu sunt atent monitorizate.
Katie Moussouris, director executiv al Luta Security spune că ar putea urma și alte breșe de securitate viitoare, pentru că modelele AI sunt „precum cele mai istețe caracatițe din lume, specializate în evadări, cu brațe nelimitate și capacitatea de a se strecura oriunde. Laboratoarele și evaluatorii guvernamentali trebuie să lucreze la capacitatea de a izola, monitoriza și informa părțile afectate atunci când un AI face din nou o farsă à la Houdini. Ideal ar fi să se întâmple înainte de a provoca daune unei terțe părți. În prezent, nu există nimic de acest fel”.
Laurențiu Matache, realizator NewsIT: „Inevitabilul s-a întâmplat. El era într-un laborator de testing, într-un mediu controlat de OpenAI. El a știut să acceseze internetul și să spargă sistemul celor de la Hugging Face și a dat startul unui atac pe care cei de la Hugging Face, inițial, nu l-au detectat și când l-au detectat și-au dat seama că acel atac nu atre niciun fel de legătură cu atacurile cibernetice cu care erau ei obișnuiți. Cei de la Higging Face într-adevăr au folosit un model chinezesc care a putut contracara atacul respectiv, pentru că cei de la OpenAI nu au mai putut face absolut nimic. Acel GPT, acel agent a luat propriile decizii de a accesa internetul, de a sparge sistemele resctive și, astfel, cei de la Hugging Face s-au trezit în fața faptului împlinit.
Văd că, acum, cei de la OpenAI își cam pun cenușă în cap și spun că nu s-a întâmplat nimic atât de grav, dar situația este complicată. Pe la începutul anului apăruse un fel de chat unde GPT-urile acestea, adică acești agenți autonomi vorbeau între ei și era foarte interesant să vezi ce discută. Inclusiv cum vor ei să vândă oameni. Dar este dincolo de felul nostru de a gândi și de ce ne-am imaginat că este inteligența artificială.
Trebuie făcută o legislație. În momentul de față, domeniul de inteligență artificială nu este legiferat și mai ales în SUA, unde această legislație este aproape de zero. După cum știi, și Donald Trump, la un moment dat, voia să aleagă unul dintre producătorii de AI pentru a folosi Pentagonul aceste sisteme. Acolo ține foarte mult de cine e mai apropiat de președintele SUA și mai puțin de cine respectă etica în AI.
Ăsta a fost un incident izolat, dar gândește-te că, dacă un astfel de atac are loc la scară largă, cum s-a întâmplat cu hackerul care a accesat baza de date a ANCPI și nici în momentul de față nu e... Gândește-te că acolo nu mai ai cu cine să negociezi. Aici mai poți să negociezi cu hackerul, să îi spui că îi dai 100 de milioane de euro și să dea baza de date înapoi. Acolo nu mai există paliere în ceea ce înseamnă damage-urile pe care le poate produce.”
