„Avem o datorie față de umanitate”. Este avertismentul lansat de Dario Amodei, directorul executiv al companiei Anthropic, una dintre cele mai importante companii din cursa pentru dezvoltarea inteligenței artificiale.
Amodei spune că ritmul în care avansează inteligența artificială trebuie încetinit, pentru ca măsurile de siguranță să poată ține pasul cu tehnologia. Potrivit scenariilor prezentate de șeful Anthropic, în doar câteva luni am putea ajunge într-un punct în care sisteme AI extrem de puternice să fie capabile să coordoneze roiuri de agenți care ar putea prelua controlul asupra întregului internet.
De ce șeful Anthropic cere încetinirea ritmului în care se dezvoltă AI: Am putea reduce considerabil riscul ca ceva să meargă extrem de rău
Dario Amodei este una dintre principale voci în ceea ce privește dezvoltarea inteligenței artificiale. Într-o postare pe site-ul său, el a prezentat un plan pentru intensificarea controalelor asupra industriei. El a afirmat că Anthropic pune deja în aplicare o parte din acest plan pe cont propriu, în timp ce celelalte măsuri ar necesita o coordonare la nivelul întregii industrii și cu Guvernele din întreaga lume.
„Cred că, dacă încetinirea ritmului ne-ar oferi chiar și un an sau doi în plus înainte ca modelele să atingă niveluri critice de capacitate și am folosi acest timp pentru a avansa alinierea, am putea reduce considerabil riscul ca ceva să meargă extrem de rău”, a spus Amodei, potrivit AP.
Avertismentele nu se opresc aici. Jacob Coxon, un fost cercetător al Anthropic și-a făcut publică îngrijorarea cu privire la dezvoltarea necontrolată a inteligenței artificiale. Într-un interviu acordat BBC, el spune că oamenii care lucrează în aceste companii sunt îngroziți de viteza cu care avansează tehnologia. De altfel, Coxon a spus că există o probabilitate mai mare de 10% ca în următorul deceniu omenirea să fie anihilată de inteligența artificială.
