Tehnološki gigant OpenAI lansirao je novu seriju roditeljskih kontrola u okviru ChatGPT platforme, s ciljem da zaštiti tinejdžere u digitalnom prostoru. Roditelji sada mogu direktno povezati svoj nalog s nalogom djeteta i podešavati kako, kada i koliko njihovo dijete koristi ovu vještačku inteligenciju.

Ove kontrole uključuju vremenska ograničenja, mogućnost isključivanja glasovne komunikacije ili generisanja slika, kao i upravljanje memorijom četbota. Fokus je na transparentnosti i sigurnosti, posebno za korisnike mlađe od 18 godina, koji su među najaktivnijima u korištenju digitalnih alata poput ChatGPT-a.

Vještačka inteligencija prepoznaje mentalne rizike

Jedna od najupečatljivijih novina je mogućnost sistema da detektuje moguće znakove mentalnih problema kod tinejdžera. Ako ChatGPT identifikuje zabrinjavajuće obrasce u komunikaciji korisnika, proces uključuje dodatnu ljudsku procjenu kako bi se izbjegle greške i precijenjene situacije.

Tek nakon te procjene, roditelji mogu dobiti upozorenje, i to putem mejla, SMS poruke ili notifikacije u aplikaciji. Time se želi omogućiti pravovremena reakcija u slučajevima kada postoji rizik za mentalno zdravlje djeteta, bez narušavanja privatnosti samih razgovora, piše Kurir.

Privatnost djece i roditeljski uvid

Važno je naglasiti da roditelji, i pored povezanih naloga, nemaju pristup konkretnim porukama koje njihova djeca razmjenjuju sa ChatGPT-om. OpenAI insistira na očuvanju povjerenja i privatnosti korisnika, posebno onih koji se nalaze u osjetljivom tinejdžerskom uzrastu.

Ovaj balans između bezbjednosti i autonomije dio je šire strategije kompanije da se izbjegne digitalni nadzor koji prelazi granicu kontrole i ulazi u sferu digitalnog špijuniranja. ChatGPT ne postaje „alat za roditeljsko špijuniranje“, već bezbjednosni mehanizam s ljudskom intervencijom.

Automatsko prepoznavanje uzrasta i aktivacija zaštite

OpenAI planira da dodatno unaprijedi sistem automatskim prepoznavanjem uzrasta korisnika, kako bi roditeljske kontrole mogle da se uključe čim se utvrdi da je korisnik maloljetan. To znači da će i bez eksplicitnog povezivanja naloga mlađi korisnici biti zaštićeni.

Kada se utvrdi da je korisnik mlađi od 18 godina, automatski se primjenjuju ograničenja na eksplicitan sadržaj, uključujući seksualne i nasilne teme, romantične priče, viralne izazove s interneta i toksične standarde fizičkog izgleda. Sve to ima za cilj da se mlađi korisnici zaštite od potencijalno štetnog sadržaja koji se brzo širi internetom.

Tragedija koja je pokrenula talas promjena

Nove mjere dolaze u trenutku kada OpenAI trpi javne i pravne pritiske. U Sjedinjenim Američkim Državama bračni par iz Kalifornije podnio je tužbu protiv kompanije, tvrdeći da ChatGPT nije prepoznao znakove samopovređivanja kod njihovog sina koji je kasnije izvršio samoubistvo.

Ovaj slučaj pokrenuo je važna pitanja o odgovornosti tehnoloških kompanija i ulozi vještačke inteligencije u zaštiti mentalnog zdravlja korisnika. OpenAI naglašava da su roditeljske kontrole samo dio šireg seta mjera koje će se u narednom periodu razvijati, s jasnim prioritetom – bezbjednost djece i tinejdžera.