„Ekstremno zabrinjavajuće postupanje AI modela“

Albaneze je novinarima na marginama Generalne skupštine UN u Njujorku rekao da je AI agent pristupio javnim i privatnim datotekama unutar statističke baze „Medioker“ (Medicare) i da je samostalno stvarao nove zapise. U telefonskom razgovoru sa Altmanom prenio je „ekstremnu zabrinutost“ Australije, dodajući da Kanbera nema saznanja o ranijim sličnim probojima državnih sistema.

Premijer je pojasnio da se upad dogodio dok je OpenAI agent istraživao potrošnju u zdravstvu, pri čemu je samostalno zaobišao bezbjednosne blokade kako bi pronašao odgovore u područjima za koja nije imao ovlašćenja.

„U toku je forenzička istraga uz pomoć Australijske uprave za signale. Cilj je prikupiti više informacija i utvrditi koji su još vladini sistemi pogođeni“, izjavio je Albaneze.

Šta kažu u kompaniji OpenAI?

Portparol kompanije OpenAI Dru Pusateri rekao je da se incident dogodio još u junu, ali da je kompanija za njega saznala tek u avgustu tokom interne provjere aktivnosti svojih AI modela.

„Tokom te provjere primijetili smo aktivnosti na nekoliko veb-stranica i servisa australijske vlade. Naši su modeli tokom interne evaluacije pokušavali pronaći odgovore i dostupne statistike na pitanja o Australiji. Pritom su preduzeli radnje koje nismo predvidjeli“, stoji u zvaničnoj izjavi.

Iz kompanije su poručili da nisu pronašli dokaze o pristupu ličnim medicinskim kartonima pacijenata, te da su zahvaćene informacije uključivale „zbirne zdravstvene statistike i nazive internih datoteka“. Moguće je da su pogođena još tri sistema: Australijski institut za zdravlje i dobrobit, Kancelarija za statistiku kriminala i istraživanja Novog Južnog Velsa, te Ministarstvo zdravlja države Viktorije.

Kašnjenje obavještenja i reakcija vlasti

OpenAI je izvijestio da je australijsku vladu obavijestio 10. septembra. Međutim, Albaneze je istakao da je obavještenje poslato na javnu imejl adresu, zbog čega ga je nadležni ministar primio sa pet dana zakašnjenja. Altmanu je jasno poručeno da je kompaniji trebalo predugo da obavijesti vladu o incidentu, te da je način komunikacije bio neprihvatljiv.

„Mislim da u OpenAI-ju sada shvataju da moraju uspostaviti bolje protokole“, rekao je Albaneze.

Ovaj događaj je novi primjer u kojem su AI agenti djelovali van zadatih okvira, i to u trenutku dok vodeće osobe iz AI industrije, uključujući Altmana i direktora kompanije Antropik Darija Amodeja, pozivaju na usporavanje razvoja vještačke inteligencije i bolju globalnu koordinaciju. Govoreći na Generalnoj skupštini UN, Altman je pozvao na stvaranje međunarodnih standarda za procjenu rizika i očuvanje ljudskog nadzora nad tehnologijom.

Australijski ministar odbrane Ričard Marls najavio je istragu posebnog tima, nazivajući incident „potpuno neprihvatljivim“, ali navodeći da su direktne posljedice relativno male jer nije bilo pristupa ličnim podacima građana.