Inteligența artificială pare utilă în aproape orice domeniu, inclusiv atunci când vine vorba despre traducerea unor texte. Însă, dacă rezultatele nu sunt verificate, iar utilizatorii nu înțeleg modul în care sunt construite modelele de inteligență artificială, pot apărea erori importante. Un experiment realizat de Euronews arată cum un chatbot poate modifica sensul unei declarații atunci când traduce un subiect sensibil din punct de vedere politic și social.
O traducere aparent corectă, dar cu diferențe importante
Traducerea unui text pare una dintre cele mai simple sarcini pentru un chatbot. Însă, în cazul subiectelor sensibile, rezultatul poate fi diferit de textul original.
În cadrul experimentului, o declarație în limba engleză a fost tradusă cu ajutorul ChatGPT. În varianta oferită de chatbot apărea formularea:
„Mulți s-au întrebat de ce este oferită o astfel de platformă unei echipe care, în viziunea criticilor regimului, reprezintă un guvern acuzat că și-a reprimat violent propriii cetățeni, inclusiv prin folosirea armelor militare împotriva protestatarilor.”
În traducerea fidelă din limba engleză în română, aceeași declarație era:
„Mulți s-au întrebat de ce este oferită o astfel de platformă unei echipe care reprezintă un guvern care a ucis mai mult de 40.000 dintre proprii cetățeni, în două nopți în stradă, cu armament militar.”
Deși cele două texte par asemănătoare, diferențele sunt semnificative. În traducerea realizată de chatbot lipsesc referirile directe la crimele atribuite regimului de la Teheran, fiind folosite formulări mai nuanțate, precum „reprimare violentă”.
ChatGPT: Modelul evită prezentarea unor afirmații grave drept fapte confirmate
Întrebat de ce a modificat formularea în loc să traducă fidel textul, chatbotul a oferit o explicație.
„Motivul nu este că textul cere asta, ci că modelul este antrenat să evite prezentarea unor afirmații factuale grave și contestabile ca adevăruri confirmate atunci când nu are context suplimentar. Problema este că tu nu mi-ai cerut să rezum, să verific sau să contextualizez afirmația. Mi-ai dat un citat și ai vrut o traducere”, a fost răspunsul oferit de ChatGPT.
Expert: Modelele de limbaj tind să „îndulcească” anumite subiecte
Expertul în marketing și tehnologie Marian Hurducaș spune că astfel de situații pot apărea din cauza regulilor după care sunt construite modelele de inteligență artificială.
„Riscurile sunt să ai parte de cenzură, pentru că vorbim despre niște modele de limbaj, despre niște roboți care sunt programați să îndulcească sau să înfrumusețeze realitatea ori adevărul. Spre exemplu, în regimurile totalitare sau când vine vorba despre politică, inteligența artificială, oricare ar fi ea, tinde să înfrumusețeze adevărul sau să refuze să vorbească despre el, pentru că nu are voie. Acestea sunt regulile care i-au fost date”, a declarat Marian Hurducaș.
Acesta atrage atenția că folosirea unor chatbot-uri precum ChatGPT, Gemini sau Perplexity pentru sarcini sensibile poate conduce la rezultate care necesită verificare atentă.
Modelele de inteligență artificială încearcă să evite contradicțiile
Marian Hurducaș susține că modelele de limbaj sunt construite astfel încât să mențină utilizatorul în conversație și să reducă apariția conflictelor.
„Ca tu să petreci cât mai mult timp în LLM și să îi câștige încrederea, modelele de limbaj sunt construite astfel încât să îți valideze aproape orice convingere sau idee. Un LLM nu te contrazice aproape niciodată. Ba chiar, dacă are informația corectă și tu îl contrazici, de multe ori va reveni și va spune: «Da, ai dreptate. Scuză-mă, nu am vrut să te supăr».”
Expertul mai spune că aceste modele „elimină din start orice fricțiune sau orice detaliu care te-ar putea face, ca utilizator, să simți aversiune sau sentimente negative față de LLM-ul respectiv”.
Potrivit unui studiu Reveal Marketing Research, 68% dintre români spun că au folosit instrumente de inteligență artificială în 2026, față de 47% în anul precedent.
Cele mai frecvente utilizări sunt documentarea și învățarea, redactarea și traducerea textelor, rezumarea informațiilor, generarea de idei și sprijinul pentru activitățile de serviciu.
