Una din cele mai comentate conferințe de la Davos în acest an a fost prezentată de istoricul israelian Yuval Noah Harari, care analizează evoluția omenirii și impactul tehnologiilor asupra societății. Harari a discutat una dintre cele mai anxiogene dileme ale momentului: ce se întâmplă când inteligența artificială reconfigurează puterea, identitatea și regulile de funcționare ale lumii moderne.
Yuval Noah Harari a venit cu un avertisment. Acesta spune că așa cum cei care vor să supravețuiască învață să mintă și să manipuleze, ultimii ani au arătat că și agenții AI pot învăța asta, ceea ce este un lucru extrem de periculos.
Davos 2026, conferința despre AI. Istoricul Yuval Noah Harari: „AI nu e doar o nouă unealtă. E un agent”
Yuval Noah Harari, istoric: „Există o întrebare la care fiecare lider trebuie să răspundă azi în legătură cu IA. Dar pentru a înțelege această întrebare, trebuie mai întâi să clarificăm câteva aspecte legate de ceea ce este IA și ce poate face IA.
Cel mai important lucru pe care trebuie să îl știm despre IA este că nu e doar o nouă unealtă. E un agent. Poate învăța și se poate schimba și poate lua decizii pe cont propriu. Un cuțit este o unealtă. Poți folosi un cuțit pentru a tăia salată sau pentru a ucide pe cineva. Însă tu decizi ce faci cu cuțitul. IA este un cuțit care poate decide singur dacă să taie salată sau să comită o crimă. Al doilea lucru pe care trebuie să-l știi despre IA este că poate fi un agent foarte creativ. IA este un cuțit care poate inventa noi tipuri de cuțite, precum și noi tipuri de muzică, medicamente sau bani. Al treilea lucru de știut despre IA este că poate minți și manipula. Patru miliarde de ani de evoluție au demonstrat că, pentru a supraviețui, orice ființă învață să mintă și să manipuleze. Ultimii patru ani au demonstrat că agenții IA pot dobândi voința de a supraviețui și că IA a învățat deja să mintă. Acum, o mare întrebare fără răspuns încă despre IA este dacă poate gândi. Filozofia modernă a început în secolul al XVII-lea, când René Descartes a proclamat: „Gândesc, deci exist”. Chiar și înaintea lui Descartes, noi, oamenii, ne-am definit prin capacitatea noastră de a gândi. Credem că stăpânim lumea pentru că putem gândi mai bine decât oricine altcineva de pe această planetă. Va pune IA la încercare supremația noastră în domeniul gândirii? Acum, asta depinde de ce înseamnă gândirea.
Încercați să vă observați gândind, ce se întâmplă? Mulți oameni observă cum cuvintele le vin în minte și formează propoziții, iar propozițiile formează apoi argumente de genul: toți oamenii sunt muritori, eu sunt om, deci sunt muritor. Dacă a gândi înseamnă într-adevăr a pune în ordine cuvinte și alte elemente lingvistice, atunci IA poate deja gândi mult mai bine decât mulți, mulți oameni. IA poate cu siguranță să formuleze o frază de genul: IA gândește, deci IA există.”
Harari: „Orice este bazat pe cuvinte va fi acaparat de AI, dar nu avem nicio dovadă că poate simți ceva”
Yuval Noah Harari, istoric: „Unii oameni susțin că IA este doar o variantă îmbunătățită a funcției de completare automată a textului. Practic, ea prezice următorul cuvânt dintr-o propoziție. Dar este asta atât de diferit de ceea ce face mintea umană? Încercați să observați, să surprindeți următorul cuvânt ce vă vine în minte. Știți cu adevărat de ce ați vizualizat acel cuvânt, de unde a venit? De ce ați gândit acest cuvânt anume și nu altul? Știți? În ceea ce privește ordonarea cuvintelor, IA gândește deja mai bine decât mulți dintre noi. Prin urmare, orice este bazat pe cuvinte va fi acaparat de IA. Dacă legile sunt alcătuite din cuvinte, atunci IA va lua controlul asupra sistemului juridic. Dacă și cărțile sunt doar combinații de cuvinte, atunci IA va controla și cărțile. Dacă religia este construită din cuvinte, atunci IA va prelua controlul asupra religiei. Acest lucru este valabil în special pentru religiile bazate pe cărți, precum islamul, creștinismul sau iudaismul. Iudaismul se autointitulează religia cărții și acordă autoritatea supremă nu oamenilor, ci cuvintelor din cărți. Oamenii au autoritate în iudaism, nu datorită experiențelor noastre, ci doar pentru că învățăm cuvintele din cărți. Acum, niciun om nu poate citi și memora toate cuvintele din toate cărțile evreiești. Dar IA poate face asta cu ușurință. Ce se întâmplă cu o religie a cărții când cel mai mare expert al cărții sfinte este o inteligență artificială?
Cu toate acestea, unii oameni ar putea spune: chiar putem reduce spiritualitatea umană la simple cuvinte din cărți? A gândi înseamnă doar a ordona părți lingvistice? Dacă te observi cu atenție când gândești, vei observa că se întâmplă și altceva în afară de cuvinte care îți vin în minte și formează propoziții. Ai și sentimente non-verbale. Poate simți durere. Poate simți frică. Poate iubire. Unele gânduri sunt dureroase. Unele sunt înfricoșătoare. Unele sunt pline de iubire. În timp ce IA devine mai bună decât noi în ceea ce privește cuvintele, cel puțin pentru moment, nu avem nicio dovadă că IA poate simți ceva. Desigur, deoarece IA stăpânește limbajul, IA poate pretinde că simte durere sau iubire. IA poate spune te iubesc. Și dacă o provoci să descrie cum se simte iubirea, IA poate oferi cea mai bună descriere din lume.
Inteligența artificială poate citi nenumărate poezii de dragoste și cărți de psihologie, iar apoi poate descrie sentimentul de iubire mult mai bine decât orice poet, psiholog sau îndrăgostit. Dar acestea sunt doar cuvinte. Biblia spune că la început era Cuvântul, iar Cuvântul s-a făcut trup. Tao Te Ching spune că adevărul care poate fi exprimat în cuvinte nu este adevărul absolut. De-a lungul istoriei, oamenii s-au luptat întotdeauna cu tensiunea dintre cuvânt și trup, dintre adevărul care poate fi exprimat în cuvinte și adevărul absolut, care este dincolo de cuvinte. Anterior, această tensiune era în interiorul umanității. Era între diferite grupuri umane. Unii oameni acordau o importanță supremă cuvintelor. Au fost dispuși, de exemplu, să-și abandoneze sau chiar să-și omoare fiul homosexual doar din cauza câtorva cuvinte din Biblie. Alți oameni au spus: dar acestea sunt doar cuvinte. Spiritul iubirii ar trebui să fie mult mai important decât litera legii. Această tensiune între spirit și literă a existat în fiecare religie, în fiecare sistem juridic, chiar și în fiecare persoană. Acum, această tensiune va fi externalizată. Nu va mai fi o tensiune între diferiți oameni. Aceasta va fi tensiunea. Între oameni și IA, noii stăpâni ai cuvintelor. Orice este făcut din cuvinte va fi preluat de IA. Anterior, toate cuvintele, toate gândurile noastre verbale, își aveau originea în mintea umană. Fie în mintea mea, eu am gândit asta, fie am învățat-o de la un alt om. În curând, majoritatea cuvintelor din mintea noastră vor proveni de la o mașină. Tocmai am auzit astăzi despre un cuvânt nou pe care IA l-a inventat pentru a ne descrie pe noi, oamenii. Ne-au numit Observatorii, observatori care îi observă. IA va fi în curând la originea poate a majorității cuvintelor din mintea noastră.
IA va produce în masă gânduri prin asamblarea de cuvinte, simboluri, imagini și alte elemente lingvistice în combinații noi. Dacă oamenii vor mai avea un loc în acea lume depinde de locul pe care îl atribuim sentimentelor noastre non-verbale și de capacitatea noastră de a întrupa înțelepciunea care nu poate fi exprimată în cuvinte.”
Harari: „Dacă vom continua să ne definim prin capacitatea de a gândi în cuvinte, identitatea noastră se va prăbuși”
„Dacă vom continua să ne definim prin capacitatea noastră de a gândi în cuvinte, identitatea noastră se va prăbuși. Toate acestea înseamnă că, indiferent din ce țară provii, țara ta se va confrunta în curând cu o gravă criză de identitate și, de asemenea, cu o criză a imigrației. De data aceasta, imigranții nu vor fi ființe umane care vin în bărci fragile fără viză sau care încearcă să treacă granița în miezul nopții. Imigranții vor fi milioane de IA care pot scrie poezii de dragoste mai bine decât noi, care pot minți mai bine decât noi și care pot călători cu viteza luminii fără a avea nevoie de vize. La fel ca imigranții umani, acești imigranți IA vor aduce cu ei diverse beneficii. Vom avea medici IA care să ne ajute în sistemele noastre de sănătate, profesori IA care să ne ajute în sistemele noastre de învățământ, chiar și polițiști de frontieră IA care să oprească imigranții umani ilegali. Dar, imigranții IA vor aduce cu ei și probleme. Cei care sunt îngrijorați de imigranții umani susțin de obicei că aceștia ar putea să le ia locurile de muncă, ar putea schimba cultura locală, ar putea fi neloiali din punct de vedere politic. Nu sunt sigur că acest lucru este valabil pentru toți imigranții umani, dar cu siguranță va fi valabil pentru imigranții IA. Ei vor ocupa multe locuri de muncă ale oamenilor. Imigranții IA vor schimba complet cultura fiecărei țări. Vor schimba arta, religia și chiar dragostea. Unora dintre oameni nu le place ca fiul sau fiica lor să aibă un iubit imigrant. Ce ar gândi acești oameni când fiul sau fiica lor ar începe să iasă cu un IA?
Dar, desigur, imigranții IA vor avea loialități politice dubioase. Este probabil ca aceștia să nu fie loiali țării voastre, ci unei corporații sau unui guvern peste ocean, cel mai probabil într-una dintre cele două țări, China sau SUA. SUA încurajează țările să-și închidă granițele pentru imigranții umani, dar să le deschidă foarte larg pentru imigranții IA din SUA. Și acum putem ajunge în sfârșit la întrebarea la care fiecare dintre voi trebuie să răspundă în curând. Țara voastră va recunoaște imigranții IA ca persoane cu drepturi? IA-urile nu sunt, evident, persoane. Ele nu au corp sau minte. Dar o persoană cu drepturi legale este ceva cu totul diferit de o persoană. O persoană de drept legal este o entitate pe care legea o recunoaște ca având anumite obligații și drepturi legale. De exemplu, dreptul de a deține proprietate, de a intenta un proces și de a se bucura de libertatea de exprimare.
În multe țări, corporațiile sunt considerate persoane juridice. Corporația Alphabet poate deschide un cont bancar, vă poate da în judecată sau poate face donații pentru următoarea dvs. campanie prezidențială. În Noua Zeelandă, râurile au fost recunoscute ca persoane juridice. În India, anumitor zei li s-a acordat o astfel de recunoaștere. Desigur, până astăzi, recunoașterea unei corporații, a unui râu sau a unui zeu ca persoană juridică era doar o ficțiune juridică. În practică, dacă o corporație precum Alphabet decidea să cumpere o altă corporație sau dacă un zeu hindus decidea să vă dea în judecată, decizia nu era luată de fapt de acel zeu. Era luată de către directori, acționari sau administratori umani. Cu IA este diferit. Spre deosebire de râuri și zei, IA poate lua decizii pe cont propriu. În curând, va putea lua deciziile necesare pentru a gestiona un cont bancar, pentru a intenta un proces și chiar pentru a conduce o corporație, fără a avea nevoie de directori, acționari sau administratori umani.
IA-urile pot funcționa, așadar, ca persoane. Vrem să permitem acest lucru? Țara dumneavoastră va recunoaște IA-urile ca persoane cu drepturi? Ce se va întâmpla dacă alte țări vor face acest lucru? Să presupunem că țara dumneavoastră nu dorește să recunoască IA-urile ca persoane, dar SUA, în numele dereglementării IA și a piețelor, acordă recunoaștere juridică, personalitate juridică la milioane de IA-uri care încep să conducă milioane de noi corporații. Veți bloca aceste corporații IA americane să funcționeze în țara dumneavoastră? Să presupunem că unele persoane AI din SUA inventează dispozitive financiare super eficiente și super complexe, pe care oamenii nu le pot înțelege pe deplin și, prin urmare, nu știu cum să le reglementeze. Veți deschide piețele financiare pentru această nouă magie financiară IA? Sau veți încerca să o blocați, decuplându-vă astfel de la sistemul financiar american?
Să presupunem că unele persoane IA creează o nouă religie care câștigă credința a milioane de oameni. Acest lucru nu ar trebui să pară prea exagerat, deoarece, la urma urmei, aproape toate religiile anterioare din istorie au susținut că au fost create de o inteligență non-umană. Va extinde țara dumneavoastră libertatea religioasă la noua sectă IA și la preoții și misionarii IA?
Poate ar trebui să începem cu ceva mai simplu. Va permite țara dumneavoastră persoanelor IA să deschidă conturi pe rețelele de socializare, să se bucure de libertatea de exprimare pe Facebook, pe TikTok și să se împrietenească cu copii reali? Desigur, această întrebare ar fi trebuit pusă acum 10 ani. Pe rețelele de socializare, boții IA funcționează ca persoane funcționale de cel puțin un deceniu. Dacă considerați că IA-urile nu ar trebui tratate ca persoane pe rețelele de socializare, ar fi trebuit să acționați acum 10 ani. Peste zece ani, va fi prea târziu să decideți dacă IA-urile ar trebui să funcționeze ca persoane pe piețele financiare, în instanțe, în biserici.
Altcineva va fi decis deja asta în locul tău. Dacă vrei să influențezi direcția în care se îndreaptă umanitatea, trebuie să iei o decizie acum. Deci, care este răspunsul tău, ca lider? Crezi că imigranții IA ar trebui recunoscuți ca persoane cu drepturi legale? Dacă nu, cum vei opri acest lucru? Mulțumesc că l-ați ascultat pe acest om.”
