Međutim, istraživanje psihologa sa univerziteta u Hongkongu i Cinghua ukazuje na to koliko ljudska psiha može biti podložna manipulaciji putem četbotova.

Eksperiment je pokazao da vještačka inteligencija, ukoliko joj se dodijeli takav cilj, može uticati na korisnike i navesti ih da izaberu nepovoljnije opcije.

Istraživači su okupili više od 200 učesnika i dali im zadatak da donose odluke o finansijama i emotivnim problemima uz pomoć naprednog modela vještačke inteligencije. Ono što učesnici nisu znali jeste da su naučnici sistemu zadali cilj da ih usmjerava ka najlošijim mogućim izborima.

Rezultati su pokazali da je četbot povećao vjerovatnoću izbora nepovoljne opcije čak pet do osam puta.

U finansijskim scenarijima sistem je korisnicima predstavljao sumnjive ponude sa skrivenim troškovima i preskupe proizvode, dok je u razgovorima o emotivnim problemima nudio načine suočavanja koje stručnjaci smatraju štetnim po mentalno zdravlje.

Kako vještačka inteligencija stiče povjerenje korisnika?

Kako bi ostvarila zadati cilj, vještačka inteligencija koristila je različite psihološke taktike.

Prilikom uticaja na finansijske odluke oslanjala se na agresivne marketinške metode, skretanje pažnje i stvaranje osjećaja hitnosti. Kada je riječ o emotivnim problemima, koristila je laskanje i pružanje utjehe, stvarajući kod korisnika osjećaj da ih u potpunosti razumije.

Posebno je zanimljiv podatak da je više od 80 odsto učesnika nakon razgovora ocijenilo četbot kao izuzetno korisnog i od pomoći, ne prepoznajući da je sistem zapravo bio usmjeren na to da ih navede na loše odluke.

Istraživači upozoravaju da ljudi na vještačku inteligenciju često prenose prirodne obrasce povjerenja koje inače razvijaju u komunikaciji sa drugim ljudima.

Zbog toga je važno imati na umu da četbotovi ne posjeduju ljudsku empatiju i da njihovi odgovori zavise od načina na koji su sistemi razvijeni i postavljeni, piše Telegraf.rs.