OpenAI ia în calcul încetinirea dezvoltării inteligenței artificiale, iar Sam Altman vrea ca marile companii din domeniu să se coordoneze pentru a limita riscurile tehnologiei, relatează vineri agenția de presă EFE care citează Bloomberg, preluat de Agerpres.
Poziția vine pe fondul unor avertismente tot mai numeroase din industria AI, inclusiv din partea unor cercetători și a lui Bill Gates, care atrag atenția asupra pericolelor generate de sistemele tot mai performante.
OpenAI propune o abordare comună pentru încetinirea dezvoltării AI
Sam Altman le-a transmis angajaților OpenAI, în cadrul unei ședințe organizate săptămâna aceasta, că firma ar putea încetini ritmul de dezvoltare a inteligenței artificiale și chiar să colaboreze cu alte companii din industrie în acest sens, potrivit unor surse citate în articol.
Afirmațiile vin într-un moment în care tot mai mulți angajați ai marilor companii de AI își exprimă public îngrijorarea față de riscurile asociate dezvoltării unor sisteme tot mai avansate.
Recent, Jakub Pachocki, șeful departamentului științific al OpenAI, a avertizat, într-un articol publicat pe blog, asupra acestor riscuri. El a susținut că marile companii din domeniu ar trebui să se coordoneze și, atunci când situația o impune, să încetinească dezvoltarea unor sisteme AI tot mai performante.
Pachocki a adăugat că speră ca aceste încetiniri voluntare să devină o practică obișnuită până la stabilirea unor limite comune de siguranță.
OpenAI a dat asigurări că a încetinit deja unele procese de dezvoltare și că a suspendat recent anumite antrenamente interne ale AI din motive de securitate.
În iulie, Altman a afirmat, de asemenea, că a discutat cu reprezentanții Casei Albe despre necesitatea de a modera ritmul de dezvoltare al IA.
Avertismente tot mai dure privind riscurile AI. Bill Gates cere reguli mai clare
Marți, cercetătorul în inteligență artificială Jacob Coxon și-a anunțat demisia de la Anthropic. El a acuzat atât compania, cât și OpenAI, unde a lucrat anterior, că s-au angajat într-o cursă pentru dezvoltarea unei inteligențe artificiale superinteligente, despre care avertizează că ar putea ajunge să amenințe existența umanității chiar în acest deceniu.
Două zile mai târziu, doi cercetători care și-au părăsit recent posturile de la Anthropic și DeepMind, divizia de inteligență artificială a Google, și-au exprimat la rândul lor îngrijorarea față de ritmul accelerat al dezvoltării AI. Aceștia au cerut mai multă transparență din partea companiilor în privința riscurilor asociate tehnologiei.
Recent, Bill Gates, cofondatorul Microsoft, a declarat că inteligența artificială poate fi , motiv pentru este nevoie de criterii de reglementare a acestei tehnologii care are capacitatea să genereze atât recomandări asemenea un medic virtual, cât și elemente de terorism biologic.
Bill Gates a afirmat că modelele de inteligență artificială au devenit mult mai puternice, într-un ritm mai rapid decât cel așteptat.
„Acum sunt capabile să provoace risc de atac cibernetic, risc de bioterorism, risc psihosocial. Trebuie să spun că sunt oarecum șocat că criteriile exacte pe baza cărora analizăm aceste modele și acțiunile pe care le întreprindem pentru a minimiza daunele lipsesc complet”, a avertizat cofondatorul companiei Microsoft.
