Cum poate fi identificat un text scris cu ChatGPT: de la observația umană, la aplicația care poate detecta utilizarea softului

ChatGPT, noua tehnologie lansată de OpenAI disponibilă în mod deschis publicului, poate face cam orice. Inclusiv să scrie un eseu, referat sau proiect pentru școală sau facultate, lucru care a stârnit, deja, îngrijorarea cadrelor didactice.

De exemplu, școlile din SUA au intrat în alertă, iar în New York autoritățile au decis deja  să interzică studenților, elevilor și profesorilor să folosească acest instrument în activitatea educațională.

Darren Hick, profesor asistent de filosofie la Universitatea Furman, din statul american Carolina de Sud, este unul din cadrele didactice care și-a prins unul din student trișând prin trimiterea unui eseu scris de inteligența artificială.

Cum și-a dat seama că tema trimisă nu era scrisă de student?

„Primul semnal de alarmă care a apărut a fost faptul că studentul meu vorbea despre un filosof într-un mod pe care nu mă așteptam ca clasa să îl cunoască. Ultimul semnal de alarmă a fost cât de bine scris era. Eseurile care sunt plagiate sunt destul de prost scrise - vocea se schimbă, structura nu funcționează. A fost o combinație ciudată de semnale de alarmă pe care nu o mai văzusem până atunci”, a spus profesorul american, potrivit euronews.com.

Software-ul a provocat o îngrijorare generalizată atunci când vine vorba de probleme etice, în special de trișare în mediul academic.

Dar și mai îngrijorător este faptul că inteligența artificială a fost folosită pentru a genera articole de știri false cu un sunet realist, ceea ce a stârnit temeri că ar putea fi folosită în mod abuziv pentru a influența alegerile, de exemplu.

Cum vă puteți da seama dacă un text este scris de ChatGPT sau alt soft de inteligență artificială?

Sunt câteva lucruri care pot ridica suspiciuni. De exemplu, dacă mai multe persoane adresează ChatGPT exact aceeași întrebare, acesta va genera aproape același răspuns pentru fiecare dintre ele.

Așadar, un profesor își poate da foarte ușor seama, atunci când corectează mai multe teme, dacă textele au aceeași construcție sau aceleași exemple sau raționamente. Acesta este un semnal clar că ar putea fi vorba de un text generat de un soft care folosește inteligența artificială.

Un alt indiciu este modul în care inteligența artificială răspunde la evenimente recente, spune Muhammad Abdul-Mageed, de la University of British Columbia.

„Punctul slab al ChatGPT este că este antrenat pe date învechite din 2021 sau 2022. Nu va fi capabil să detecteze ceva ce s-a întâmplat recent. De exemplu, nu va putea să vă spună dacă Franța a câștigat sau nu Cupa Mondială din Qatar. Acest tip de informații factuale este greu de spus pentru model ", a declarat el pentru euronews.com.

O aplicație pentru a „detecta" utilizarea ChatGPT

Alții dezvoltă modele pentru a detecta dacă un text a fost scris de inteligența artificială. Este cazul lui Edward Tian, un student în vârstă de 22 de ani care susține că a creat aplicația GPTZero care poate spune dacă a fost folosit ChatGPT.

Dar niciuna dintre aceste metode nu este infailibilă, deoarece nu există niciun model de detectare în prezent, potrivit lui Irene Solaiman, director de politici la start-up-ul Hugging Face.

„Nu există o soluție magică pentru detectarea inteligenței artificiale. La fel ca și în cazul oamenilor, pe măsură ce aceste modele devin mai puternice, aceste modele de detecție joacă la recuperare și nu vor fi la fel de bune", a declarat ea pentru euronews.com

Experții sunt de părere că, în condițiile în care inteligența artificială devine din ce în ce mai puternică, ar putea fi momentul să regândească modul în care sistemul educațional testează elevii sau diferite politici pe care legiuitorii le-ar putea implementa pentru a împiedica instrumentele de inteligență artificială să provoace daune în lumea reală.