Doi politicieni americani au depus un proiect de lege care obligă marile companii de inteligență artificială să aibă un „comutator de urgență”, adică un mecanism prin care modelele pot fi încetinite sau oprite complet dacă produc consecințe grave și neprevăzute. Ideea a fost de-a lungul timpului implementată în multe tehnologii, dar când vine vorba despre AI, riscurile sunt mai mari, dar și mai puțin înțelese.
„Comutator de urgență” pentru inteligența artificială
Ted Lieu, din partea democraților, și republicanul Nathaniel Moran au lucrat la proiectul care ar trebui să fie un metaforic comutator de urgență, pe care Statele Unite să îl poată apăsa atunci când un sistem AI scapă de sub control.
Radu Hângănuț, jurnalist Euronews: Oamenii de știință se tem că un model foarte avansat de inteligență artificială ar putea inclusiv să își împiedice propria oprire, să își modifice setările de siguranță sau să încerce și chiar să reușească să se copieze pe alte servere pentru a-și continua misiunea.
Statul ar putea să intervină în situații clar reglementate: dacă un sistem AI contribuie la moartea a cel puțin 10 persoane, produce pagube de peste 100 de milioane de dolari sau încearcă să-și dezactiveze propriile măsuri de siguranță ori să evite monitorizarea.
Mircea Șerdin, arhitect de sisteme AI: „Scopul pragului este să determine când o autoritate poate interveni peste o companie privată. În absența unui prag, fie că este 1, 10 sau 50, atunci ai o intervenție arbitrară. Cum am văzut deja în luna iunie, când Departamentul pentru Comerț a decis ca oricum din afara Americii să nu mai existe drept de acces la modelele Mythos și Fable de la Anthropic, fără vreo legislație.”
Problema AI-urilor care scapă de sub control este deja reglementată în Europa, însă AI Act impune momentan doar obligativitatea raportării incidentelor.
Mircea Șerdin, arhitect de sisteme AI: „În Europa, AI Act spune că, dacă o persoană își pierde viața ca urmare a folosirii unui sistem de inteligență artificială, atunci producătorul trebuie să raporteze incidentul și să declanșeze un mecanism oficial.”
Proiectul din Statele Unite prevede și sancțiuni pentru companii: dacă nu respectă ordinul de oprire emis de autorități, firmele riscă amenzi de până la 20 de milioane de dolari pentru fiecare zi de neconformare.
