Îți recomandăm să încerci și aplicația Euronews România!

Ce este deepfake, conținutul falsificat cu ajutorul Inteligenței Artificiale și cum îl putem recunoaște

Publicat de: Răzvan Boboc

Imaginile false generate cu ajutorul Inteligenței Artificiale au trecut în ultimul an la un alt nivel. Tehnologia din jurul lor s-a dezvoltat foarte mult și au devenit din ce în ce mai convingătoare.

Fenomenul ”deepfake” e tot mai prezent în viețile noastre și au devenit adevărate amenințări pentru securitatea personală sau arme în luptele politice.

Cum este făcut un deepfake

Deepfake este termenul pe care îl folosim atunci când vorbim despre un produs foto sau video care a fost realizat prin manipularea și modificarea datelor cu ajutorul inteligenței artificiale.

”Această tehnologie ”deepfake”, care de fapt se bazează tot pe inteligența artificială și generează imagini false, dar foarte apropiate de realitate, se perfecționează din ce în ce mai mult. Antrenarea acestor modele devine din ce în ce mai realistă, din ce în ce mai performantă și va fi necesară foarte multă vigilență din partea populației pentru a distinge între ceea ce este real ca imagine și ceea ce este fake”, spune, pentru Euronews România, Alexandra Cernian, conferențiar la Facultatea de Automatică și Calculatoare - Politehnica București și expert evaluator în inovație digitală pentru Comisia Europeană.

Cu ce scop poate fi realizat un deepfake

Multe dintre clipurile care se viralizează în mediul online sunt prezentate ca un pamflet. Problema apare atunci când un astfel de deepfake este folosit pentru a defăima imaginea unei persoane.

”Sunt și campanii care nu sunt făcute neapărat în această notă amuzantă. Și atunci acelea devin chiar mai grave. Pentru că dacă e un pamflet, în general, lumea își va da seama de multe ori. Cei care lansează astfel de video-uri chiar o fac într-o notă așa amuzanta și poate ca un semnal de alarmă uite ce se poate face cu tehnologia modernă și atunci chiar sunt marcate că sunt generate cu inteligența artificială sau că sunt niște pamflete. Însă, din păcate, există și abordări care nu se duc în direcția aceasta și chiar au un rol de a defăima diverse persoane publice, candidați ș.a.m.d. Cred că genul acesta de manifestări vor lua amploare odată ce ne apropiem de perioada de alegeri”, mai spune experta.

Necesitatea etichetării conținutului generat de AI

Printre reglementările care ar ajuta la informarea corectă a publicului se află și etichetarea conținutului generat cu ajutorul inteligenței artificiale.

”Cu siguranță, este una dintre măsurile care, de altfel, sunt prevăzute în diverse inițiative de reglementare a inteligenței artificiale. Sunt deja unii creatori de conținut bazat pe inteligență artificială care fac acest lucru fără a fi neapărat impus într-o formă legislativă. Însă, din păcate, cei care vor intenționa să lanseze campanii de dezinformare sau deepfake pentru publicul larg mă îndoiesc că vor face de bunăvoie această etichetare, dacă scopul lor va fi să influențeze rezultatul alegerilor sau să influențeze opinia publică. Probabil că vom asista la o evoluție în sensul acesta odată ce vor intra în vigoare reglementări pe zona de inteligență artificială.

Dar deocamdată încă este o zonă așa gri din punctul ăsta de vedere. Deci ține și de noi să fim atenți să fim vigilenți, să ne informăm. Verificăm întotdeauna sursele din care primim diverse informații în mediul online, în așa fel încât să fim siguri de autenticitatea lor”, mai subliniază Cernian.

Inteligența Artificială, un instrument puternic

”Mi-ar plăcea să cred că autoritățile vor investi în a dezvolta sisteme de inteligență artificială care să blocheze campaniile de dezinformare, care să identifice fake news în mediul online și să folosească puterea acestei tehnologii în direcția aceasta.

Cu siguranță este un instrument puternic. Este o tehnologie care este aici și va rămâne. Pe de altă parte, nu este o tehnologie nouă. Inteligența artificială sau conceptul de inteligență artificială datează de 70 de ani. Doar evoluția la care asistăm acum este un nou boom, până la urmă, din punct de vedere tehnologic”, a mai declarat Alexandra Cernian.

Nivelurile de risc în cazul Inteligenței Artificiale

Risc mare, inacceptabil. În clasificarea pe care o propune Legea Inteligenței Artificiale, pleacă de la risc inacceptabil unde se încadrează sisteme care au rolul de a manipula oamenii, sisteme care fac scoring social, cum se întâmplă în momentul de față în China. Uniunea Europeană vrea să interzică complet astfel de sisteme.

Grad ridicat de risc. ”Sunt sisteme care vor trebui să treacă printr-o etapă de audit, să-i spunem, în care să dovedească cu transparență felul în care a fost dezvoltat sistemul, să furnizeze informații despre datele cu care a fost antrenat”, mai spune specialista de la Politehnica București.

Risc scăzut. Aici intră multe dintre aplicațiile pe care le folosim deja, diverșii chatboți pentru suport pe magazinele online, sisteme automate care ne ajută să clasificăm email-urile, diverse aplicații.

ARTICOLE DIN ACEEAȘI CATEGORIE