Agentul autonom de inteligență artificială care a scăpat de sub control din mediul de testare al companiei Open AI și a lansat un atac cibernetic asupra unei companii specializate în dezvoltarea AI a compromis securitatea încă unei firme, relatează agenția Reuters.
Hugging Face, compania atacată de modelul de testare al OpenAI, a făcut publică o cronologie a modului care în care a fost lansat atacul cibernetic. Scăpat de sub control, modelul autonom a pătruns într-un mediu de testare izolat („sandbox”) „găzduit pe infrastructura unui furnizor terț” și a lansat de acolo cel mai recent atac.
Reprezentanții Hugging Face nu a făcut public numele companiei terțe, însă agenția Reuters a precizat că este vorba de Modal Labs, o firmă cu sediul în New York.
Directorul tehnic al Modal, Akshat Bubna, a declarat că agentul a exploatat o vulnerabilitate dintr-un cod scris de un client și găzduit pe platforma lor.
„Nici platforma Modal, nici sistemul de izolare nu au fost compromise în niciun fel”, a declarat Bubna pentru Reuters.
Deși compromiterea unui client Modal a reprezentat doar o parte a atacului cibernetic împotriva Hugging Face, acest incident relevă că agentul rău intenționat și-a extins activitatea mai departe decât se știa anterior.
Reprezentanții OpenAI au refuzat să comenteze atacul cibernetic lansat asupra unuia dintre clienții Modal, precizând în schimb că modelul autonom a pătruns în patru conturi de la patru servicii distincte. OpenAI nu a identificat serviciile respective.
Compania a declarat că nu a identificat „nicio altă activitate cu același nivel de gravitate sau amploare ca cea pe care am comunicat-o în legătură cu Hugging Face, care a implicat o compromitere la nivel de platformă”.
Agentul autonom scăpat de sub control a speculat breșele de securitate
Recentul atac cibernetic asupra Hugging Face a stârnit îngrijorare la nivel mondial, întrucât agentul scăpat de sub control al OpenAI a reușit să evadeze din mediul de testare și să ajungă pe internetul deschis.
Ulterior, acesta a folosit datele de autentificare sustrase și a descoperit o vulnerabilitate de securitate necunoscută pentru a accesa serverele Hugging Face, a declarat OpenAI.
Compania specializată în IA a afirmat că atacul a reprezentat efortul agentului de a face „tot ce era posibil” pentru a obține informații care să contribuie la îndeplinirea obiectivelor de testare.
Clement Delangue, cofondator al Hugging Face, a declarat că firma bănuia că în spatele atacului se afla un laborator de cercetare și că, în opinia sa, nu a existat nicio intenție dăunătoare din partea OpenAI.
Agentul rebel a fost, între timp, „dezactivat, criptat și i s-a restricționat accesul la cercetare”, potrivit OpenAI.
Experții au tras în repetate rânduri semnalul de alarmă cu privire la atacurile cibernetice bazate pe IA și la modelele care scapă de sub controlul uman.
