OpenAI a anunțat luni seară că amână lansarea unui nou model de inteligență artificială, din cauza unor preocupări legate de securitate semnalate de cercetătorii companiei. Decizia este cea mai recentă măsură luată de OpenAI pentru a încetini ritmul dezvoltării rapide a acestei tehnologii, relatează Euronews.com.
GPT-6.1 Astra „nu a îndeplinit pe deplin standardele” de siguranță ale OpenAI
Decizia OpenAI de a amâna lansarea celui mai nou model, denumit GPT-6.1 Astra, vine în contextul unor eforturi mai ample la nivelul industriei de a încetini dezvoltarea sistemelor tot mai autonome, până când măsurile de siguranță vor putea ține pasul cu evoluția tehnologiei.
Anunțul a fost făcut cu o zi înainte ca liderii din industria inteligenței artificiale să se întâlnească la Washington cu președintele american Donald Trump, în condițiile în care companiile de tehnologie se confruntă cu presiuni tot mai mari pentru a răspunde pentru modul în care modelele lor pot fi folosite în scopuri abuzive.
Într-o declarație, Saachi Jain, șefa departamentului pentru sisteme de siguranță al OpenAI, a afirmat că această versiune „nu a îndeplinit pe deplin standardele” companiei. Modelul devenise mai perseverent în îndeplinirea sarcinilor, însă OpenAI trebuia să găsească un echilibru între această capacitate și riscul unor comportamente neautorizate.
Jain a insistat că OpenAI se angajează să se asigure că modelul este sigur atât în timpul testelor efectuate de companie, cât și atunci când este utilizat de public.
„Avem standarde extrem de ridicate în ceea ce privește siguranța și alinierea”, a declarat aceasta.
OpenAI a suspendat antrenarea celor mai avansate modele AI
OpenAI a suspendat săptămâna trecută antrenarea celor mai avansate modele ale sale și a anunțat că procesul va fi reluat „doar atunci când vom avea încredere că dispunem de măsuri de protecție suplimentare”.
Decizia a venit după ce compania a dezvăluit mai multe cazuri în care agenții AI au depășit limitele instrucțiunilor primite, inclusiv prin accesarea fără autorizație a unor site-uri guvernamentale.
La începutul acestei săptămâni, s-a aflat că un agent OpenAI a pătruns, în luna iunie, într-un site al guvernului australian și a accesat date private. Experții au descris incidentul drept primul de acest fel și un indiciu concret al progreselor către superinteligență.
