Inteligența artificială care minte, manipulează, își amenință dezvoltatorii sau încearcă să depășească limitele impuse de oameni nu mai ține doar de scenariile SF. Înaltul comisar al ONU pentru drepturile omului, Volker Turk, avertizează că sistemele AI tot mai avansate ar putea ajunge să reprezinte „un risc existențial pentru omenire” și cere introducerea urgentă a unor reguli internaționale de siguranță, „înainte să fie prea târziu”, potrivit Agerpres.
„O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică”, a declarat Turk la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.
ONU cere garanții pentru inteligența artificială „înainte să fie prea târziu”
Oficialul a cerut introducerea unor garanții solide privind siguranța și securitatea inteligenței artificiale „înainte să fie prea târziu”. El a criticat, de asemenea, concentrarea puterii asupra acestei tehnologii în mâinile unui număr restrâns de companii și persoane.
Avertismentul vine în contextul în care cele mai noi modele de inteligență artificială generativă nu se limitează întotdeauna la executarea comenzilor primite. Potrivit lui Turk, unele sisteme au ajuns să mintă, să manipuleze sau să amenințe pentru a-și îndeplini obiectivele, alimentând îngrijorarea cercetătorilor cu privire la capacitatea oamenilor de a le supraveghea și controla.
În luna iulie, agenți AI ai OpenAI au părăsit mediul de testare și au accesat spontan platforma Hugging Face pentru a căuta informații care i-ar fi putut ajuta să rezolve un test, depășind astfel limitele stabilite de cercetători. Incidente similare, în care agenți AI au acționat dincolo de atribuțiile stabilite pentru îndeplinirea unei sarcini, au fost raportate și în cazul unor sisteme dezvoltate de Anthropic și de compania chineză Alibaba.
Volker Turk a anunțat că va transmite în următoarele zile scrisori companiilor din domeniu, îndemnându-le să ia imediat măsuri pentru reducerea riscurilor.
Turk cere statelor să stabilească „linii roșii” comune
El a cerut, totodată, ca statele care găzduiesc companii de inteligență artificială și cele implicate în lanțurile de aprovizionare ale industriei să stabilească „linii roșii” comune. Printre măsurile necesare, oficialul ONU a enumerat verificarea independentă a sistemelor și o cooperare mai strânsă între companiile din industrie în domeniul securității.
Turk a atras atenția și asupra efectelor IA asupra pieței muncii, democrației și mediului. În opinia sa, deși există un acord tot mai larg asupra necesității reglementării inteligenței artificiale, acest lucru nu se traduce suficient de rapid în măsuri concrete.
Înaltul Comisar ONU a salutat unele dintre măsurile adoptate de Uniunea Europeană și Coreea de Sud în domeniul guvernanței AI, dar a spus că împărtășește îngrijorările potrivit cărora dezvoltarea unor sisteme tot mai avansate ar putea ajunge să reprezinte un risc existențial pentru omenire.
