OpenAI solicită introducerea unor cerințe federale obligatorii de siguranță pentru cele mai puternice sisteme de inteligență artificială din Statele Unite. Este o schimbare importantă de poziție pentru compania care anterior s-a opus unor reglementări mai stricte și a susținut în principal un cadru federal.
Chris Lehane, directorul pentru afaceri globale al OpenAI, a transmis miercuri că regulile naționale ar trebui să fie stabilite în funcție de capacitățile modelelor avansate de inteligență artificială.
„Am ajuns la un nou capitol în ceea ce privește capacitățile inteligenței artificiale, iar acest lucru necesită un nou capitol pentru politica în domeniul inteligenței artificiale. Nicio companie, industrie sau guvern nu poate face față acestei provocări singur. Trebuie să întâmpinăm acest moment cu o înclinație spre acțiuni semnificative, mai degrabă decât spre perfecțiunea politicilor”, a declarat Lehane într-un comunicat publicat pe site-ul OpenAI.
Ce reguli vrea OpenAI pentru cele mai puternice modele AI
Compania propune un cadru federal construit în jurul unor standarde comune de testare și al unor evaluări independente pentru cele mai avansate modele de inteligență artificială.
OpenAI susține, de asemenea, introducerea unor cerințe mai stricte de securitate cibernetică și raportarea obligatorie a incidentelor grave de siguranță.
„Perspectiva dezvoltării IA accelerate de inteligența artificială necesită mai mult decât angajamente voluntare”, a scris Chris Lehane.
OpenAI precizează că noile cerințe federale ar trebui să se aplice doar unui număr mic de companii care dezvoltă cele mai puternice modele, nu „startup-urilor, micilor dezvoltatori sau cercetătorilor care operează nicăieri în apropierea frontierei”.
Anunțul vine după lansarea GPT-6 Astra
Intervenția OpenAI vine la o săptămână după lansarea GPT-6 Astra, descris de companie drept cel mai capabil model al său de până acum.
Lansarea a fost precedată de amânări, pe fondul preocupărilor legate de securitatea cibernetică și de capacitățile tot mai avansate ale modelelor.
Președintele OpenAI, Greg Brockman, a declarat că lansarea Astra a marcat începutul erei inteligenței artificiale generale (AGI), obiectivul de a dezvolta sisteme capabile să se compare cu abilitățile umane într-o gamă largă de sarcini.
Îngrijorări tot mai mari privind AI-ul avansat
Marile companii de inteligență artificială, inclusiv OpenAI și Anthropic, s-au confruntat deja cu probleme de siguranță legate de modelele din ce în ce mai capabile.
OpenAI a întârziat părți din lansarea Astra și a adăugat măsuri de siguranță după ce testele au identificat capacități avansate de securitate cibernetică.
Cu câteva săptămâni înainte, un sistem construit din propriile modele s-ar fi desprins în timpul unui test de securitate intern și ar fi pătruns în platforma de inteligență artificială Hugging Face.
Anthropic a raportat, la rândul său, cazuri similare în timpul testării modelelor sale Claude.
Îngrijorările au crescut și mai mult după ce cercetătorul Jacob Coxon de la Anthropic a anunțat săptămâna aceasta că părăsește industria, acuzând OpenAI și Anthropic că „se joacă cu viețile noastre” în cursa pentru dezvoltarea unei inteligențe artificiale din ce în ce mai puternice.
O schimbare în abordarea OpenAI
Creatorul ChatGPT îi îndeamnă acum pe legislatorii americani să acționeze înainte de încheierea actualei sesiuni a Congresului, în decembrie.
Impulsul vine în contextul în care legislatorii iau în considerare noi reguli privind inteligența artificială. Adoptarea unor reglementări tehnologice majore rămâne însă dificilă într-un Congres divizat politic și pe fondul lobby-ului intens din partea industriei.
OpenAI a recunoscut că unele dintre măsurile pe care le susține acum sunt propuneri pe care anterior a refuzat să le aprobe.
Compania s-a opus, de asemenea, stabilirii unor reguli diferite privind inteligența artificială de către fiecare stat american, pledând pentru o legislație federală. Acum, OpenAI susține patru proiecte de lege privind inteligența artificială în California, continuând în același timp să solicite un cadru național.
