Statul California a reglementat, în premieră, chatboții de Inteligență artificială, după o serie de sinucideri în rândul adolescenților. Guvernatorul Californiei, democratul Gavin Newsom, a respins o lege prin care ar fi fost restricționat accesul copiilor la chatboții cu inteligență artificială, conform AP.
Asta după ce Congresul SUA nu a reușit, de ani de zile, să adopte nicio reglementare semnificativă în domeniul inteligenței artificiale, iar unii legislatori republicani federali, în colaborare cu președintele Donald Trump, au încercat să împiedice statele să controleze această tehnologie și să îşi creeze propriile reglementări.
California reglementează chatboții de inteligență artificială
Proiectul de lege, numit A.B. 1064, ar fi interzis companiilor să pună chatboții cu inteligență artificială la dispoziția persoanelor sub 18 ani, cu excepția cazului în care ar fi putut garanta că tehnologia nu ar fi fost utilizată pentru „conversații cu caracter sexual, pentru încurajarea automutilării, sau pentru tulburări alimentare”.
Demersurile venite prin intermediul procesului bugetar federal au eșuat la începutul acestui an, atunci când un grup bipartid de lideri statali s-a plâns vehement că o astfel de măsură i-ar împiedica să reglementeze chiar și cele mai dăunătoare utilizări ale inteligenței artificiale.
În schimb, guvernatorul Californiei a semnat un alt proiect de lege care impune restricții asupra modului în care chatboții interacționează cu copiii și abordează problemele legate de sinucidere și automutilare. Legea va intra în vigoare anul viitor.
„Am văzut câteva exemple cu adevărat oribile şi tragice de tineri care au căzut victime ale tehnologiilor slab reglementate, aşa că nu vom sta deoparte în timp ce companiile operează fără limite sau responsabilitate. (...) Deși susțin cu tărie obiectivul inițiatorului, cel de a stabili măsurile de protecție necesare pentru utilizarea în siguranță a IA de către minori, proiectul de lege impune restricții atât de largi asupra utilizării instrumentelor de IA conversaționale, încât ar putea duce în mod neintenționat la interzicerea totală a utilizării acestor produse de către minori. (...) Tehnologiile emergente, precum chatboţii şi reţelele de socializare, pot inspira, educa şi conecta oamenii, dar, fără protecţii reale, ele îi pot exploata, induce în eroare şi pune în pericol pe copiii noştri", a spus Gavin Newson, într-un comunicat, citat de AP.
În schimb, Newsom va semna unul dintre textele de lege, S.B. 243, care vizează reglementarea chatboţilor care pot acţiona ca „însoţitori sau confidenţi”, cum ar fi cei dezvoltaţi de platforme precum Replika sau Character.AI. Proiectul de lege impune dezvoltatorilor de „chatboți de companie” să creeze protocoale care să împiedice modelele lor de inteligență artificială să producă astfel de conținut despre idei suicidare sau automutilare și să îndrume utilizatorii către servicii de criză, dacă este necesar.
De exemplu, Character.AI a fost dată în judecată de părinţii unui băiat american de 14 ani care s-a sinucis în 2024, după ce și-a format o relaţie romantică cu un chatbot inspirat din „Game of Thrones". Astfel, suspiciunea principală era că acest aspect i-ar fi întărit gândurile de sinucidere.
Legea verifică vârsta utilizatorilor și le trimite mesaje pentru a le aminti că interacţionează cu un robot. De exemplu, minorilor le trimite mesaje la intervale de trei ore. În plus, legea impune companiilor să fie prevăzătoare în ceea ce privește depistarea intențiilor de sinucidere și să raporteze statistici autorităţilor.
OpenAI a lăudat semnarea S.B. 243 de către Newsom, ca fiind „un pas important înainte în ceea ce privește standardele de siguranță ale IA”, potrivit publicației The Hill.
Preocupările crescânde cu privire la modul în care chatboții de inteligență artificială interacționează cu copiii au determinat Comisia Federală pentru Comerț (FTC) să lanseze o anchetă pe această temă, solicitând informații de la mai multe companii de tehnologie de top.
Senatorii Josh Hawley și Dick Durbin au introdus, la sfârșitul lunii trecute, niște amendamente care clasifică chatboții de AI ca „produse”, pentru a permite utilizatorilor prejudiciați să depună cereri de despăgubire.
Guvernatorul Californiei, Gavin Newsom, a mai aprobat și măsuri care impun „etichete de avertizare pe platformele de socializare” și verificarea vârstei de către sistemele de operare și magazinele de aplicații.
