România este în continuare vulnerabilă la atacuri mult mai de bază decât cele provocate de inteligența artificială, așa cum s-a întâmplat în cazul celor două modele autonome ale OpenAI care au atacat cibernetic o companie din domeniul AI, a declarat Mircea Șerdin, arhitect software, la Euronews România. De asemenea, expertul a afirmat că „evadarea” celor două modele reprezintă „un joc imprevizibil și iresponsabil din partea laboratoarelor de AI care pentru a-și păstra cota de piață”.
Context:
- O acțiune de testare a unor agenți autonomi cu inteligență artificială a scăpat de sub control. Incidentul este fără precedent și ridică noi semne de întrebare despre inteligența artificială.
- Compania OpenAI susține că doi agenți autonomi pe care îi are, bazați pe inteligență artificială, au reușit să evadeze din sistemul de testare, să acceseze Internetul și să lanseze un atac cibernetic asupra platformei Hugging Face, un start-up de AI. Incidentul a avut loc în timpul unui test de securitate desfășurat într-un mediu controlat, spune compania.
În direct la Euronews România, Mircea Șerdin, arhitect software, a afirmat că acesta nu poate fi considerat un „moment zero pentru dezvoltarea unui Skynet în stilul Terminator”.
Mircea Șerdin, arhitect software: Este mai degrabă un joc imprevizibil și iresponsabil din partea laboratoarelor de AI care pentru a-și păstra cota de piață, folosesc ca framing, ca dezvoltare, securitatea cibernetică.
De cel puțin jumătate de an, cele mai mari laboratoare de AI sunt concentrate de dezvoltarea de soluții atât pentru capacități ofensive, cât și defensive în domeniul securității cibernetice.
Este practic principalul distanțator între ele. Totul a început când Anthropic a anunțat lansarea clasei de modele Mythos. Au fost cumva și interzise în parte de către Guvernul american, lucru care a împins OpenAI spre locul doi din această perspectivă.
Cazul agentului OpenAI scăpat de sub control: Revoluție sau mișcare de PR?
Mircea Șerdin, arhitect software: Răspunsul este la mijloc. Capabilitățile sunt clar reale, dar modul în care a fost anunțat acest incident de securitate este unul care pune în lumină favorabilă modelele Open AI:
De altfel, anunțul pe care l-ați prezentat se termină cu o invitație pentru companiile care lucrează în domeniul cyber security să se înscrie pentru a putea avea acces la acest model, o mișcare clară de marketing.
Întrebat dacă România ar fi pregătită pentru a contracara un astfel de atac, expertul a avertizat că „infrastructura României este în continuare vulnerabilă la atacuri clasice, așa cum a arătat incidentul cu ANCPI”.
Mircea Șerdin, arhitect software: România nu este absolut deloc pregătită pentru că infrastructura României este în continuare vulnerabilă la atacuri clasice, așa cum a arătat incidentul cu ANCPI, unde vulnerabilitatea era una veche de cinci ani. Așa cum a arătat și în 2024, atacul cu ransomware asupra 27 de spitale care la fel sa a fost folosit cu soluții non-AI.
România este în continuare vulnerabilă la atacuri mult mai de bază, mult mai joase decât cele provocate de o astfel de inteligență artificială.
