Tokom sigurnosnog testa, autonomni AI agent uspio je da pristupi internetu i hakuje platformu Hugging Face.

OpenAI najavljuje stroži nadzor nad koracima koje AI preduzima pri rješavanju zadataka, kao i dodatno ograničavanje pristupa internetu tokom testiranja, prenosi PCPress.

Poslanik Greg Casar i poslanica Doris Matsui tražili su detaljne podatke o incidentu, ali je Casar ocijenio odgovor OpenAI-ja kao nedovoljan, optužujući kompaniju da ne shvata sajber-bezbjednost dovoljno ozbiljno.

Prijedlog zakona o „Kill Switch“ opciji

Kao reakcija na ovaj incident, u Predstavničkom domu SAD predložen je zakonski akt koji bi državnim organima dao ovlašćenje da nalože gašenje AI modela ukoliko oni ugroze ljudske živote ili ekonomiju.

(Srpska info)