Claude a ajuns deja la un nivel extrem de dezvoltat, astfel încât a ajuns să-și conducă propria dezvoltare. O spune compania-mamă, Anthropic, care anunță că chatbotul Claude coordonează deja 26% din propriile activități de cercetare și dezvoltare, ceea ce reprezintă nivelul uriaș al progresului în zona în care inteligența artificială devine capabilă să se dezvolte singură, fără ajutorul omului. De exemplu, în februarie 2026, partea de muncă pe care Claude o conducea în această zonă „era zero”.
În afară de progresul lăudabil, există însă și îngrijorări semnificative cu privire la consecințele potențiale ale dezvoltării inteligenței artificiale avansate, conform AP. Evident că o altă întrebare se referă la cât mai durează până când Claude nu o să mai aibă nevoie deloc de intervenția umană pentru a se autodezvolta.
Cu toate acestea, aproximativ 90% din activitatea de cercetare și dezvoltare a companiei se desfășoară „în colaborare” cu Claude, ceea ce, potrivit Anthropic, înseamnă că modelul poate realiza „volumuri mari de muncă sub atenta îndrumarea umană”.
Anthropic a angajat evaluatori externi independenți care monitorizează dezvoltarea lui Claude
Anunțul vine în contextul în care unele personalități de seamă din domeniul AI, în frunte cu Dario Amodei, CEO-ul Anthropic, solicită o încetinire a ritmului de dezvoltare a acestei tehnologii, din motive de siguranță.
„Ar trebui să facem tot ce este posibil pentru a reduce la minimum decalajul dintre ceea ce știu laboratoarele de vârf și ceea ce știe publicul. Aceasta înseamnă o mai bună evaluare a dezvoltării IA, raportarea publică a acesteia și oferirea societății posibilității de a decide cum să utilizeze aceste informații”, a precizat compania Anthropic, care a îndemnat și alți dezvoltatori de să publice periodic date similare, astfel încât cifrele să poată fi comparate în timp.
Din cauza riscurilor, compania Anthropic a prezentat și detalii privind măsurile de supraveghere a agenților pe care le-a implementat și a menționat că, în luna august, existau aproximativ 30.000 de agenți care desfășurau activități de cercetare și inginerie. Măsurile de supraveghere sunt esențiale pentru a identifica frecvența cu care comportamentul necorespunzător al agenților este detectat de sistemele de monitorizare, după cum susține compania. În plus, Anthropic s-a angajat să numească evaluatori externi independenți care să monitorizeze activitățile în materie de siguranță.
Dezbatrea privind siguranța AI a ajuns atât de aprinsă încât un cercetător de la Anthropic și-a dat demisia, săptămâna trecută, în semn de avertisment grav cu privire la amenințările pe care această tehnologie le reprezintă pentru umanitate. Din acel moment, Dario Amodei, Sam Altman, Elon Musk și alți lideri din acest domeniu au susținut și ei ideea încetinirii ritmului de dezvoltare. Există însă și voci care se opun, precum cea a lui Donald Trump.
