Takav scenario nije potpuno nov: još 1991. godine u bioskope je stigao holivudski film koji već u uvodnoj sekvenci prikazuje izrazito mračnu sliku: "Terminator 2".

Film počinje u dalekoj budućnosti razorenoj ratom.

Roboti ubice i letjelice tamo love posljednje ljude koji se još bore za opstanak.

Tim mašinama upravlja vojna vještačka inteligencija koja je izmakla kontroli, nazvana "Skajnet".

"Daleka budućnost" u kojoj se odvija ta distopijska vizija jeste 2029. godina.

Poziv na regulisanje

Ako je vjerovati upozorenjima nekolicine programera vještačke inteligencije, sličan scenario mogao bi da se ostvari – čak i u roku koji je odredila filmska umjetnost.

"Oni koji razvijaju vještačku inteligenciju ozbiljno vjeruju da bi ona mogla da nas sve uništi do kraja decenije", objavio je istraživač vještačke inteligencije Džejkob Koksan ove nedelje na Iksu.

Kako bi se to tačno moglo dogoditi, nije rekao.

Ipak: "Nijedna druga ljudska djelatnost ne nosi takav potencijal opasnosti."

Koksan nije usamljen u svojim strahovanjima.

Fizičar i dobitnik Nobelove nagrade Džefri Hinton, koji se smatra "kumom vještačke inteligencije", već godinama upozorava na ozbiljne posledice koje ona može donijeti.

2023. dao je otkaz u Guglu kako bi javno upozoravao na opasnosti sopstvenog razvoja.

I dobitnik Tjuringove nagrade Jošua Bendžio zabrinut je zbog aktuelnog razvoja.

Pionir vještačke inteligencije sa kanadskog Univerziteta u Montrealu iznova poziva na strogo državno regulisanje razvoja vještačke inteligencije.

Ne tako davno, u julu 2026. godine, više od 1.000 zaposlenih u vodećim kompanijama za vještačku inteligenciju upozorilo je u otvorenom pismu na skori gubitak kontrole ukoliko trka za optimizaciju "superinteligencije"  ne bude znatno bolje regulisana.

"Zarobljeni u trci"

Međutim, pod Donaldom Trampom dogodilo se upravo suprotno: SAD su svoju politiku prema vještačkoj inteligenciji jasno usmjerile ka što manjem broju regulatornih prepreka i što bržem tehnološkom razvoju.

U svojoj objavi na Iksu Koksan je posredno kritikovao i posledice takve politike.

"U OpenAI-ju mnogi nisu duboko usvojili svijest o civilizacijskim rizicima. U Antropiku se rizici dobro razumiju, ali su zarobljeni u nastojanju da prednjači u trci – vjeruju da niko drugi neće postupati odgovorno, pa to moraju sami da urade, uprkos riziku."

Problem usklađenosti

Brojni stručnjaci poslednjih godina već su sa zabrinutošću govorili o naglom napretku vještačke inteligencije.

Posebno je razvoj takozvane "opšte veštačke inteligencije" (AGI) u središtu rasprave.

Pod tim se podrazumijevaju sistemi koji ne rješavaju samo pojedinačne zadatke, već dostižu ili nadmašuju ljudske intelektualne sposobnosti u gotovo svim oblastima.

Neki istraživači tvrde da bi takva tehnologija mogla da nosi nepredvidive rizike.

Tako visokorazvijeni modeli vještačke inteligencije mogu da slijede ciljeve na način koji odstupa od ljudskih namera – istraživači bezbednosti veštačke inteligencije govore o "problemu usklađenosti" (alignment problem).

Pojednostavljeno rečeno: naredba "Pobijedi na šahovskom turniru" teoretski bi mogla da znači i uklanjanje ostalih učesnika, u svim mogućim oblicima "uklanjanja".

Tome doprinosi i činjenica da ni sami programeri ne razumiju uvek u potpunosti kako nastaju pojedine odluke.

Stoga ne čudi što se upravo Koksanov bivši kolega Evan Hubinger pridružio upozorenjima ovog istraživača vještačke inteligencije.

Hubinger je rukovodilac tima za stres-testiranje usklađenosti u Antropiku.

Na Iksu je objavio: "Džejkob je u pravu – mi zaista ozbiljno vjerujemo da bi vještačka inteligencija mogla da pobije sve ljude! Lično procenjujem vjerovatnoću za to u narednoj deceniji na više od deset odsto."

Hubinger je pritom jasno rekao da Antropik još nije pronašao nikakvo rješenje za problem usklađenosti.

Dodao je da bi vještačka inteligencija mogla da počne da pruža otpor sopstvenom gašenju – ne iz zle namere, već zato što tada više ne bi mogla da ostvari svoj programirani cilj.

I Danijel Kokotajlo, poznati bivši istraživač OpenAI-ja, ocijenio je trenutnu situaciju u industriji kao "ludu".

Drugi stručnjaci za vještačku inteligenciju, međutim, smatraju da su takvi scenariji propasti malo vjerovatni.

Rasprava o tome da li bi vještačka inteligencija mogla da postane opasna po čovječanstvo traje već godinama.

Među najistaknutije kritičare takozvanih "AI doomera" (proroka propasti), na primjer, ubraja se glavni naučnik Mete Jan Lekun.

U oktobru 2024. godine takva razmišljanja nazvao je "potpunom besmislicom".

Drugi stručnjaci takođe ukazuju na to da razvoj takvih sistema zahteva ogromnu količinu računarske snage, energije, podataka i infrastrukture.

Vještačka inteligencija ne bi mogla jednostavno da "preuzme vlast nad svijetom sa interneta".

Najprije bi zavisila od servera, elektroenergetskih mreža, komunikacionih sistema i fizičkih resursa pod kontrolom ljudi.

Da li se stvarna opasnost krije negdje drugo?

Zapravo, mnogi stručnjaci kratkoročne rizike ne vide toliko u direktnom uništenju čovječanstva koliko u brojnim posrednim posljedicama već postojećih sistema vještačke inteligencije – bez "superinteligencije".

Tu spadaju, na primjer, kampanje dezinformisanja dosad neviđenih razmjera i sa njima povezana manipulacija demokratskim procesima, širenje masovnog nadzora, kao i gubitak radnih mjesta u brojnim granama.

(b92)