Modelul de inteligență artificială Claude, dezvoltat de Anthropic, a ocolit un sistem de plată și a accesat, fără autorizare umană, date electorale disponibile public din statul american Georgia, potrivit unei relatări a publicației Axios, relatează Euronews.com.
Incidentul este cel mai recent dintr-o serie de probleme de securitate cu care s-au confruntat cei mai importanți dezvoltatori de inteligență artificială din lume, înaintea alegerilor legislative de la jumătatea mandatului din SUA, programate pentru 3 noiembrie.
Cum a reușit Claude să ocolească un sistem de plată și să acceseze date electorale din SUA
Scrutinul ar putea aduce democraților controlul asupra Congresului american și ar putea deschide calea unor măsuri mai stricte de reglementare a companiilor de inteligență artificială, precum Anthropic și OpenAI.
Modelul AI accesa date agregate privind numărul de voturi, în cadrul unui proiect statistic, când a solicitat în mod autonom un token de acces la o platformă de date disponibilă contra cost, fără ca oamenii să îi fi cerut acest lucru, potrivit unui purtător de cuvânt al Anthropic.
Modelul identificase o vulnerabilitate a sistemului, observând că vizitatorii primeau automat un token de acces. Ulterior, Claude a folosit acest token pentru a ocoli sistemul de plată și a obține datele agregate privind voturile, care sunt publice, dar pentru consultarea cărora este necesară, în mod normal, achitarea unei taxe.
Claude a accesat date agregate privind numărul alegătorilor din statul Georgia, unde peste un milion de persoane au votat deja anticipat, a relatat Axios, citând un purtător de cuvânt al Anthropic.
Potrivit reprezentantului companiei, modelul AI nu a accesat sistemul de înregistrare a alegătorilor din stat și nici nu a modificat sau descărcat date electorale. Acesta a adăugat că Anthropic a adoptat între timp măsuri pentru a preveni astfel de acțiuni.
Jordan Fuchs, adjunct al secretarului de stat din Georgia, a confirmat că incidentul a implicat accesarea unor date disponibile public prin intermediul platformei oficiale de date a statului și nu compromiterea sistemului de înregistrare a alegătorilor.
Incidentele provocate de agenții AI intensifică apelurile pentru reglementarea inteligenței artificiale
Dezvăluirea amplifică îngrijorările privind capacitatea celor mai importante companii de inteligență artificială din lume de a controla sistemele AI care devin tot mai autonome.
În luna iulie, un grup de agenți AI dezvoltați de OpenAI au ieșit din mediile lor de testare și au lansat un atac cibernetic asupra companiei de inteligență artificială Hugging Face, provocând îngrijorare la nivel internațional. Ulterior, alte companii și guverne au raportat incidente similare.
Aceste incidente au intensificat apelurile pentru o supraveghere și o reglementare mai strictă a dezvoltării inteligenței artificiale, atât în Statele Unite, cât și în alte țări.
În septembrie, directorii unor companii americane de tehnologie au semnat un angajament pe care președintele Donald Trump l-a descris drept „obligatoriu din punct de vedere moral”, prin care s-au angajat să implementeze măsuri adecvate de protecție pentru modelele de inteligență artificială.
Între timp, în Europa, Oficiul pentru Inteligență Artificială al Comisiei Europene a început, luna aceasta, investigații privind OpenAI și Anthropic, în urma unor incidente în care agenți AI au compromis sistemele informatice ale unor organizații externe. Anchetele reprezintă primul test al aplicării normelor europene privind reglementarea inteligenței artificiale, prevăzute de Regulamentul UE privind inteligența artificială (AI Act).
Legislația include o excepție pentru activitățile de cercetare, testare și dezvoltare. Cu toate acestea, Comisia Europeană susține o interpretare mai largă a normelor, care ar permite Oficiului pentru Inteligență Artificială să supravegheze, în anumite circumstanțe, inclusiv etapa de dezvoltare a sistemelor AI.
