Prema Zakonu o osnovama vještačke inteligencije, kompanije su dužne da obezbijede obavezan ljudski nadzor nad takozvanim visokorizičnim AI sistemima. Ova kategorija obuhvata oblasti od posebnog značaja za bezbjednost i funkcionisanje društva, poput nuklearne bezbjednosti, sistema za snabdijevanje pitkom vodom, saobraćaja, zdravstva, ali i finansijskih usluga, uključujući procjenu kreditne sposobnosti i odobravanje zajmova.

Zakon propisuje i obavezu transparentnosti prema korisnicima. Kompanije moraju unaprijed obavijestiti građane kada proizvodi ili usluge koriste visokorizičnu ili generativnu vještačku inteligenciju. Poseban akcenat stavljen je na jasno označavanje sadržaja koji je generisan pomoću AI sistema, naročito u slučajevima kada ga je teško razlikovati od stvarnih, autentičnih materijala.

Iako je zakon već stupio na snagu, predviđen je prelazni period od najmanje godinu dana prije početka primjene novčanih kazni. Nakon isteka tog roka, kazne za kršenje propisa mogu iznositi i do 30 miliona korejskih vona, što je oko 17.500 evra. Sankcije se, između ostalog, odnose na neoznačavanje generativnog AI sadržaja i nepoštovanje propisanih obaveza nadzora.

Dio startap zajednice u Južnoj Koreji izrazio je zabrinutost zbog, kako navode, nejasno definisanih pojedinih odredbi zakona. Postoji strah da bi ovakva regulativa mogla podstaći pretjerano oprezan pristup razvoju novih tehnologija, kako bi se izbjegli regulatorni rizici, što bi dugoročno moglo usporiti inovacije.

S druge strane, Ministarstvo nauke i informaciono-komunikacionih tehnologija najavilo je uspostavljanje posebne platforme sa smjernicama, kao i centra za podršku kompanijama i organizacijama tokom trajanja prelaznog perioda. Cilj je da se privreda i tehnološki sektor lakše prilagode novim pravilima, uz istovremeno očuvanje bezbjednosti i povjerenja javnosti u vještačku inteligenciju, piše GSMArena.