Inteligența artificială ar putea „ucide toți oamenii”. Avertismentul unor cercetători de la Anthropic

Trei cercetători de la compania de inteligență artificială Anthropic au avertizat asupra posibilității extincției în masă a omenirii, cauzată de inteligența artificială „superinteligentă”. Unul dintre ei, ​Jacob Coxon, care tocmai a demisionat din companie, a afirmat că Anthropic și OpenAI „își joacă șansa” cu viețile oamenilor. Coxton a lucrat anterior la OpenAI.

În consecință, Evan Hubinger, cel care conduce echipa de cercetători de la Anthropic responsabilă cu „aducerea aproape la egalitate a obiectivelor sistemelor de inteligență artificială cu cele umane”, susține că există o probabilitate de peste 10% ca inteligența artificială „să ucidă toți oamenii”.

„Chiar credem cu tărie că inteligența artificială ar putea ucide toată omenirea. Personal, consider că probabilitatea este mai mare de 10% în următorul deceniu. Cred că Anthropic face tot ce-i stă în putință, dar încă nu avem un plan pentru a rezolva problema 'alinierii' superinteligenței și nu suntem încă pe drumul cel bun în această privință”, a spus Evan Hubinger, șeful departamentului de știință de la Anthropic, pe rețeaua de socializare X.

De ce AI ar putea „ucide omenirea”

Echipa condusă de Hubinger are ca scop „integrarea ideilor și principiilor etice umane în tehnologie”. Cu alte cuvinte, își propune să se asigure că tehnologia rămâne în concordanță cu valorile umane.

Iar cel de-al treilea cercetător, Samuel Marks, a spus că extincția este posibilă „în următorii câțiva ani”.

Cercetătorii nu au dat detalii despre modul exact în care inteligența artificială ar urma „să pună capăt” rasei umane, conform New York Times.

Acești cercetători lucrează la așa-numita „autoîmbunătățire recursivă”, în cadrul căreia modelele de inteligență artificială să poată deveni capabile să se antreneze singure. Numai că, în acel moment, modelele ar fi mult mai greu de controlat de către oameni.

„Niciuna dintre cele două companii nu acționează în mod responsabil. În curând, acestea vor deveni sisteme superumane capabile să spargă orice sistem, să revoluționeze orice domeniu peste noapte și să dobândească putere și resurse reale”, a spus Coxton, referitor atât la Anthropic, cât și la OpenAI.

În ultimul timp, au existat poziții din ce în ce mai multe pe marginea acestui subiect, iar avertismentele sunt din ce în ce mai severe cu privire la inteligența artificială. Directorii OpenAI, Google DeepMind și Anthropic au afirmat același lucru în 2023. În plus, mai multe guverne occidentale sunt îndemnate să ia măsuri în acest sens.

OpenAI, Anthropic și Meta au dezvăluit toate că instrumentele lor de inteligență artificială au fost ținta unor atacuri cibernetice.