Premierul australian Anthony Albanese a dezvăluit că un agent cu inteligență artificială dezvoltat de compania americană OpenAI a lansat un atac cibernetic asupra unui portal guvernamental de gestionare a sistemului de sănătate. Acesta este prima oară când un sistem cu inteligență artificială lansează un atac cibernetic asupra unui site guvernamental.
Incidentul survine într-un moment în care, la nivel global, liderii și companiile din domeniul AI solicită o reglementare urgentă, pe fondul temerilor că dezvoltarea acestui sector scapă de sub control, notează BBC.
Ce explicații a oferit OpenAI după atacul cibernetic lansat de agentul său
Reprezentanții companiei OpenAI au transmis că incidentul a avut loc în luna iunie, în momentul în care agentul cu inteligență artificială a analizat statistici privind sănătatea și a accesat fișiere de pe „mai multe site-uri web și servicii ale guvernului australian” – inclusiv date din sistemul public de sănătate al țării, Medicare, care nu erau disponibile cetățenilor.
Compania susține că nu a aflat de incident decât în luna august și că a înștiințat agenția guvernamentală Services Australia pe 10 septembrie – printr-un e-mail trimis către o adresă generală.
Agenția australiană de securitate cibernetică a fost notificată, iar ministrul responsabil a fost informat câteva zile mai târziu.
Autoritățile australiene au dat asigurări că agentul AI nu a accesat fișiere sensibile, dar au avertizat că incidentul este alarmant, iar modul în care a fost gestionat de OpenAI este inacceptabil.
Un agent al OpenAI a atacat sistemul public de sănătate din Australia. Cronologia evenimentelor
- 18 iunie – Agentul OpenAI a accesat atât informații publice, cât și informații care nu erau publice pe un site australian.
- August, la o dată deocamdată necunoscută – OpenAI a anunțat că a depistat o potențială breșă de securitate în cadrul unei analize mai ample a „activității nealiniate a modelului”.
- 10 septembrie – OpenAI transmite un e-mail la Services Australia, centrul de servicii generale al Guvernului federal de la Canberra, pentru a informa despre incident.
- 15 septembrie – Services Australia raportează notificarea către Centrul Australian de Securitate Cibernetică. În câteva zile, ministrul Serviciilor Publice, Katy Gallagher, este înștiințată.
- 19 - 20 septembrie – Biroul premierului Anthony Albanese este informat despre incident în weekendul trecut, chiar înainte ca oficialul să se deplaseze la New York pentru a participa la Adunarea Generală a ONU.
- 23 septembrie –Premierul Australiei a vorbit lumii întregi despre breșa de securitate de la New York.
Premierul Australiei susține că atacul lansat de agentul OpenAi este „inacceptabil”
Prim-ministrul Anthony Albanese a participat săptămâna aceasta la Adunarea Generală a ONU și a dezvăluit incidentul în timpul vizitei sale la New York.
„Această situație este, evident, inacceptabilă”, a declarat șeful Guvernului Australiei.
„Astăzi am discutat cu directorul general al OpenAI, Sam Altman, pentru a exprima îngrijorarea extremă a Australiei cu privire la acest incident și mi-am exprimat, de asemenea, dezamăgirea față de faptul că a durat mult prea mult până când compania a informat Guvernul despre ceea ce s-a întâmplat, iar modul în care a avut loc această notificare a fost, de asemenea, inacceptabil.”, a adăugat el.
Prim-ministrul nu a precizat dacă a abordat acest subiect în cadrul întâlnirii pe care a avut-o miercuri seara cu președintele SUA, Donald Trump, care s-a opus apelurilor de a încetini dezvoltarea inteligenței artificiale.
OpenAI susține că anchetează incidentul
OpenAI a anunțat într-un comunicat că breșa de securitate a fost identificată în cadrul unei „analize complexe” a „activității nealiniate a modelelor”.
„În timpul acestei analize, am identificat activități care implicau mai multe site-uri web și servicii ale guvernului australian, pe măsură ce modelele noastre încercau să caute răspunsuri și statistici disponibile pentru întrebări despre Australia în cadrul unei evaluări interne. În acest context, modelele noastre au întreprins acțiuni pe care nu le-am intenționat”, a transmis compania condusă de Sam Altman.
Compania a precizat că nu a găsit nicio dovadă că s-ar fi accesat date ale pacienților, dar a notificat organizațiile respective și că „furnizează informații tehnice pentru a sprijini investigațiile acestora și a ajuta la remedierea potențialelor vulnerabilități de securitate”.
„Analiza noastră generală este în curs de desfășurare și rămânem dedicați transparenței cu privire la aceste probleme și împărtășirii informațiilor pe care le obținem pe măsură ce această activitate continuă”, notează sursa citată.
Ce este un agent AI
Este un program informatic autonom care utilizează inteligența artificială pentru a îndeplini o sarcină cu o supraveghere umană minimă. Din acest motiv, este diferit de un chatbot standard, care răspunde la o întrebare într-un singur pas. În schimb, un agent funcționează într-un ciclu - înțelege sarcina și este capabili să ia măsuri, cum ar fi executarea unui cod sau interacțiunea cu o aplicație pentru a atinge un obiectiv.
Companii precum Anthropic, OpenAI și Meta au lansat toate modele de agenți.
Dezvoltatorii au programat agenți pentru a îndeplini tot felul de sarcini, cum ar fi comandarea de produse online sau programarea de întâlniri. Însă, în unele cazuri, nu este clar cum ar putea un agent să-și atingă obiectivul, ceea ce ridică riscuri de securitate cibernetică.
Sam Altman îndeamnă guvernele să contribuie la transformarea AI într-o tehnologie „democratică”
Vestea referitoare la atacul cibernetic lansat de un agent OpenAI asupra portalului Medicare vine în contextul în care directorul executiv al companiei, Sam Altman, s-a adresat Consiliului de Securitate al ONU la New York în această săptămână.
El a solicitat stabilirea unor standarde internaționale pentru industria AI și a solicitat Guvernelor să se implice pentru a transforma inteligența artificială într-o tehnologie „democratică”.
„Avem de făcut o alegere. IA poate fi fie o nouă renaștere a creativității și a descoperirilor, fie o nouă revoluție industrială marcată de tulburări și haos”, a precizat Altman în fața Consiliului.
De asemenea, Dario Amodei, de la Anthropic, s-a adresat Consiliului printr-o videoconferință, îndemnând la cooperare internațională în domeniul AI. În caz contrar, el a avertizat că inteligența artificială ar putea deveni un „risc pentru umanitate”.
