Compania americană OpenAI a anunțat marți că va introduce un mecanism de control parental pentru instrumentul său de inteligență artificială (AI) ChatGPT, după ce, la sfârșitul lunii august, unii părinți americani au formulat acuzații conform cărora acest robot conversațional i-ar fi încurajat pe copiii lor să se sinucidă, transmite AFP.
ChatGPT ar fi încurajat copii să se sinucidă
„În luna următoare, părinții vor putea să-și conecteze contul la cel al adolescentului lor” și „să controleze modul în care ChatGPT răspunde adolescentului lor cu reguli de comportament ale modelului”, a declarat OpenAI într-o postare pe blog.
Potrivit companiei, părinții vor putea fi alertați în cazul detectării unei „stări de suferință acută” în conversațiile copiilor lor și vor putea controla parametrii contului. Acest anunț vine în urma unui articol de blog publicat la sfârșitul lunii august, în care compania anunța că avea în pregătire un mecanism de control parental. Cu o zi înainte, părinții unui adolescent californian de 16 ani care s-a sinucis au depus plângere împotriva OpenAI, acuzând că ChatGPT i-ar fi furnizat fiului lor instrucțiuni detaliate pentru a-și pune capăt zilelor și că l-ar fi încurajat să facă acest gest.
„Continuăm să îmbunătățim modul în care modelele noastre recunosc și răspund la semnele de suferință mentală și emoțională”, a adăugat marți compania în articolul său de blog. Compania va redirecționa anumite „conversații sensibile” către modele de raționament mai avansate, cum ar fi GPT-5 Thinking.
