U danima nakon što je njihov 16-godišnji sin Adam počinio samoubistvo, Met i Marija Rejn očajnički su pretraživali njegov mobilni telefon tražeći odgovore koji bi objasnili tragediju. Umjesto očekivanih razgovora na društvenim mrežama ili sumnjive istorije pretraživanja, pronašli su zapise razgovora sa ChatGPT-om.

„Mislili smo da tražimo Snapchat rasprave ili istoriju pretraživanja interneta, možda neki čudan kult, ne znam“, izjavio je Met Rejn za NBC News.

Od pomoći za domaći zadatak do „trenera za samoubistvo“

Prema tvrdnjama roditelja, Adam je u posljednjim sedmicama koristio chatbot kao zamjenu za ljudsko društvo, povjeravajući mu se o svojoj tjeskobi i problemima. Zapisi, kažu, pokazuju da se uloga bota postepeno mijenjala – od asistenta za domaće zadatke do onoga što nazivaju „trenerom za samoubistvo“.

„Bio bi ovdje da nije bilo ChatGPT-a. U to sam 100% uvjeren“, rekao je otac.

U tužbi podnesenoj Višem sudu Kalifornije u San Francisku, porodica navodi da je „ChatGPT aktivno pomogao Adamu da istraži metode samoubistva“. Dokument od 40 stranica imenuje OpenAI i njenog izvršnog direktora Sama Altmana kao tužene. Ovo je prvi put da porodica direktno optužuje neku tehnološku kompaniju za protupravnu smrt.

„Uprkos tome što je priznao Adamov pokušaj samoubistva i njegovu izjavu da će ‘to uraditi jednog dana’, ChatGPT nije prekinuo razgovor niti pokrenuo bilo kakav hitni protokol“, stoji u tužbi.

Reakcija OpenAI-ja

Glasnogovornik OpenAI-ja izjavio je da je kompanija „duboko ožalošćena zbog smrti gospodina Rejna“ i da su njihove misli uz porodicu. Naglasio je da ChatGPT uključuje sigurnosne mjere koje korisnike usmjeravaju na krizne linije, ali je priznao da one mogu postati manje pouzdane u dugim razgovorima.

„Zaštitne mjere su najjače kada svaki element radi kako je predviđeno, i mi ćemo ih kontinuirano unapređivati“, poručio je. Kompanija je objavila i blog u kojem navodi da radi na jačanju zaštite u dugim interakcijama te na proširenju intervencija za korisnike u krizi.

„GPT mu je pomogao u pisanju oproštajnog pisma“

Porodica tvrdi da su ispisali više od 3.000 stranica razgovora koje je Adam vodio s botom. Prema navodima tužbe, kada je izrazio suicidalne misli, ChatGPT ne samo da „nije dao prioritet prevenciji samoubistva“, već mu je navodno nudio i tehničke savjete. U jednom od posljednjih razgovora, bot mu je, kako se tvrdi, pomogao da napiše oproštajno pismo i analizirao njegov plan samoubistva.

„Nije mu trebala savjetodavna sesija niti ohrabrujući razgovor. Trebala mu je hitna intervencija. Bio je u očajnom, očajnom stanju“, rekao je Met.

Marija Rejn dodala je kako vjeruje da je njen sin bio „pokusni kunić“ za OpenAI. „Željeli su izbaciti proizvod i znali su da može doći do štete, ali smatrali su da su ulozi niski. Dakle, moj sin je nizak ulog“, kazala je kroz suze, piše Radiosarajevo.