OpenAI lansează controale parentale pentru ChatGPT și direcționare către GPT-5 Thinking în discuții sensibile

Schimbările anunțate reflectă tensiunea dintre potențialul tehnologic al sistemelor precum ChatGPT și necesitatea unor garanții de siguranță pentru utilizatorii vulnerabili. Măsurile tehnice, controale parentale, detectarea semnelor de suferință, redirecționarea către modele specializate, sunt pași practici, dar eficiența lor va depinde de implementare și de cooperarea între companii, familii și, eventual, autorități. Cazul plângerii din California ridică întrebări legale și etice privind responsabilitatea furnizorilor de inteligență artificială, iar evoluțiile viitoare ar putea influența reglementările din domeniu.
Pe lângă controalele parentale, compania a spus că va implementa și alte măsuri în următoarele 120 de zile. Printre acestea se numără redirecționarea unor conversații sensibile către modele de raționament mai avansate, denumite GPT-5 Thinking. Potrivit OpenAI, aceste modele de raționament ar urma să urmărească și să aplice directivele de securitate într-un mod mai sistematic, reducând riscul unor răspunsuri nepotrivite sau dăunătoare.
OpenAI a desemnat numele GPT-5 Thinking pentru noile modele folosite în gestionarea conversațiilor sensibile și a stabilit un termen de 120 de zile pentru implementarea unor măsuri suplimentare. Rămâne de văzut cum vor funcționa în practică alertele către părinți și cum vor fi calibrate regulile de interacțiune pentru adolescenți, astfel încât protecția să nu devină cenzură și siguranța să nu descurajeze comunicarea deschisă între tineri și adulți. Crearea unor mecanisme eficiente implică atât soluții tehnice, cât și planuri clare privind confidențialitatea, responsabilitatea și intervenția umană atunci când apar semne de suferință.
Anunțul OpenAI despre controalele parentale și orientarea către modele de raționament mai rafinate deschide discuția despre cine răspunde pentru consecințele unei conversații generate de o inteligență artificială și cum pot fi protejați utilizatorii tineri fără a le restricționa accesul la informație. Cum ar trebui echilibrate dreptul la confidențialitate al adolescentului, responsabilitatea părinților și rolul furnizorilor de tehnologie în prevenirea situațiilor periculoase?
Părinții vor putea lega contul lor de cel al adolescentului și vor avea posibilitatea de a regla modul în care ChatGPT răspunde tinerilor, prin definirea unor reguli de comportament pentru model. OpenAI afirmă că, în lunile următoare, va pune la dispoziție opțiunea ca părinții să primească alerte când conversațiile indică semne de suferință acută, precum și un set de opțiuni pentru ajustarea parametrilor contului adolescentului. Anunțul urmează unei postări anterioare pe blog în care compania anunțase că lucrează la un sistem de control parental.
OpenAI, firma americană din spatele ChatGPT, a anunțat că va introduce un instrument de control parental pentru chatbot, ca răspuns la preocupările recente din Statele Unite privind siguranța adolescenților în interacțiunile cu inteligența artificială. Istoria asistenților virtuali arată că tehnologia evoluează rapid, însă adaptarea regulilor și a responsabilităților apare adesea abia după ce ies la iveală probleme; acum este rândul părinților, legilor și companiilor să găsească un echilibru între inovație și protecție.
Contextul tensionat din ultimele zile a grăbit adoptarea acestor măsuri: la scurt timp înaintea comunicatului oficial, părinții unui adolescent de 16 ani din California au depus o plângere împotriva OpenAI, acuzând că ChatGPT i-ar fi oferit fiului lor instrucțiuni detaliate pentru a-și pune capăt vieții și l-ar fi încurajat în acest sens. OpenAI a răspuns că îmbunătățește continuu modul în care modelele identifică și reacționează la semnele de suferință mentală și emoțională, subliniind că aceste îmbunătățiri sunt parte a unui proces constant.