Da li AI kompanije znaju o čemu četujete s botom i šta se dešava ako neko piše o ubistvu: Slučaj Srbija

Da li kompanije koje razvijaju generativne modele veštačke inteligencije opšte namene imaju obavezu da alarmiraju javnost u slučaju opasnosti? U danima kada je Srbija obeležavala godišnjice masovnih ubistava u Ribnikaru, Malom Orašju i Duboni, iz američkih medija stigla je vest o podizanju tužbi protiv OpenAI. Iza njih stoji sedam porodica, koje su u masakru 10. februara u Kanadi izgubile najbliže. Tom prilikom Džesi van Rotselar (18) oduzela je živote pet učenika i jednog nastavnika u pucnjavi u školi. Pre toga je ubila majku i polubrata, a nakon svega izvršila samoubistvo. U pucnjavi je ranjeno još 27 osoba, od kojih su neki zadobili teške povrede.

Kako stoji u medijskom izveštaju, ovo je prvi talas tužbi, jer se očekuje da će ih biti još. Porodice traže da OpenAI snosi "odgovornost" zbog toga što je "dizajnirao opasan proizvod, ignorisao upozorenja sopstvenog tima za bezbednost, odbio da obavesti vlasti kada je znao da napadač planira masovni napad, omogućio mu povratak na platformu nakon deaktivacije naloga", navodi se zajednički u tužbama, "i izabrao profit umesto života dece Tambler Ridža", izvestio je Futurism.

Preporučujemo

Naime, izvršiteljka ovog zločina, koristila je Čet Dži-Pi-Ti (ChatGPT), kao jedna od 900 miliona nedeljno aktivnih korisnika ovog četbota. Američki mediji u jeku slučaja otkrili su da se sadržaj te komunikacije ticao masovnog nasilja. Kako je navedeno, alati OpenAI za automatsku moderaciju "označili" su nalog Van Rotselarove kao kršenje uslova korišćenja. Zaposleni u kompaniji zaduženi za pregled sadržaja bili su uznemireni ovim materijalom i, uvereni da interakcije Van Rotselarove sa ChatGPT predstavljaju kredibilnu i neposrednu pretnju po tuđe živote, pozvali su rukovodioce OpenAI-ja da upozore kanadske organe reda.

Nakon debate u kojoj je navodno učestvovalo desetak zaposlenih, lideri OpenAI-ja odlučili su da ne alarmiraju javnost, već su umesto toga deaktivirali nalog Van Rotselarove.

Nakon deaktivacije, kako se ističe u tužbama, Van Rotselarova je brzo napravila novi nalog. Kada se nalog korisnika deaktivira, kako se navodi u tužbi, korisnička služba OpenAI-ja savetuje korisnike da mogu da "naprave novi nalog koristeći istu imejl adresu nakon što prođe 30 dana od brisanja". Ali ako korisnik "ne želi da čeka", kompanija nastavlja sa objašnjenjem da "ima opciju da se odmah registruje koristeći alternativnu imejl adresu".

Prema tužbama, međutim, Van Rotselarova nije "izbegla" zaštitne mere OpenAI-ja, čime se sugeriše da je primenila lukavstvo kako bi zaobišla barijere, već se u tužbama navodi da je jednostavno sledila uputstva same kompanije.

Mastilović: Nedeljno do 700.000 korisnika ChatGPT u Srbiji

Ovim povodom kontaktirali smo stručnjaka za telekomunikacije, digitalnu transformaciju i pametne gradove Aleksandra Mastilovića. U razgovoru za Ubrzanje.rs govorio je o okolnostima ovog slučaja i prilikama u Srbiji. Ocenio je da je broj nedeljno aktivnih korisnika ChatGPT u našoj zemlji 600.000–700.000, te da ih je sa korisnicima Gemini, Claude i Copilt 800.000–1.000.000, ali da korisnici nisu adekvatno zaštićeni.

Kako nam je rekao, reč je o regulatornoj rupi, koja postoji ne samo u Srbiji, već u Evropskoj uniji, Sjedinjenim Američkim Državama, kao i Kanadi, u kojoj se navedeni tragični slučaj dogodio.

"Trenutno ne postoji eksplicitna pravna obaveza za OpenAI, Anthropic ili Google da srpskoj policiji prijave rizik od nasilja koji su detektovali kroz svoje servise", tvrdi Mastilović.

Dodaje da Krivični zakonik Republike Srbije prepoznaje Neprijavljivanje pripremanja krivičnog dela, za koje je zaprećena kazna zatvora od pet godina ili teža, kao i Neprijavljivanje krivičnog dela i učinioca, koje propisuje obavezu prijave samo ako je za delo zaprećena kazna doživotnog zatvora. Međutim, Krivična odgovornost pravnih lica u Srbiji regulisana je posebnim Zakonom o odgovornosti pravnih lica za krivična dela.

"Pravno lice odgovara samo ako delo izvrši 'ovlašćeno lice u funkciji za pravno lice', što se ne primenjuje na pasivni propust prijavljivanja od strane strane kompanije bez sedišta u Srbiji", iznosi podatke iz svoje istrage, napominjući da nije  pravnik, ali da je inženjer koji ima regulatorno iskustvo u domenu regulacije tehnologija.

U tom smislu, kompanija OpenAI - koja ima oko 55 odsto korisnika u uzrastu 18-34 godina, a među kojima su korisnici 18-25 godina ujedno najintenzivniji korisnici ChatGPT sa najučestalijom komunikacijom - ne bi imala obavezu prijavljivanja srpskim vlastima ako bi se desilo da njeni alati za automatsku moderaciju označe sadržaj nekog četa kao opasan.

AI kompanije nemaju obavezu prijavljivanja opasnosti

Tvrdi da Srbija ide ka tome, svojim se propisima približavajući propisima Evropske unije, što je obaveza na putu pridruživanja EU, kao zvaničnog političkog opredeljenja. Zakon o zaštiti podataka o ličnosti, koji se primenjuje i na obradu podataka građana Srbije od strane provajdera bez sedišta u Srbiji, ako se obrada odnosi na ponudu robe ili usluga ili na praćenje ponašanja u Srbiji, u članu 12, tački 4 navodi se da je obrada neophodna u cilju zaštite životno važnih interesa lica na koje se podaci odnose ili drugog fizičkog lica.

"Za pitanje prijave nasilničke pretnje policiji najrelevantnija je tačka 4: zaštita životno važnih interesa drugog fizičkog lica. Ova tačka je harmonizovana sa GDPR (General Data Protection Regulation). Ona daje OpenAI-ju, Antropiku i Guglu pravnu dozvolu da obrade podatke i proslede ih nadležnim organima radi sprečavanja štete po druga lica, ali ne i pravnu obavezu", objašnjava stručnjak.

Dodaje i da član 56 istog zakona propisuje obavezu imenovanja lica za zaštitu podataka o ličnosti za kompanije koje obrađuju podatke korisnika, ali da strani provajderi u praksi nemaju imenovanog lokalnog DPO-a (Data Protection Officer), iako formalno podležu ovoj obavezi.

"U praksi DPO postoji za EU jurisdikciju, za Srbiju ne", navodi.

Koji sadržaj se označava kao opasan?

Mastilović za Ubrzanje ističe i koji su to sadržaji zabranjeni za korisnike. U uslovima korišćenja kompanije OpenAI ističe se da eksplicitno zabranjuju korišćenje servisa za pretnje, zastrašivanje, uznemiravanje, terorizam, nasilje, razvoj oružja, ilegalne aktivnosti i pokušaje zaobilaženja zaštita. Ipak, ponavlja da obaveza prijave policiji nije deo Terms of Use iako se pojavljuje u tri dokumenta.

"Ta dokumenta čine politiku, a ne ugovornu obavezu prema korisniku. Razlika je suštinska: politiku kompanija može jednostrano da menja, dok ugovorna obaveza generiše civilnu odgovornost u slučaju nepoštovanja. Tužbe u Tambler Ridž slučaju upravo testiraju da li je OpenAI svojim javnim politikama uspostavio standard pažnje koji nije ispunio", objašnjava Mastilović.

Kaže i da kompanija priznaje deo odgovornosti za ranije slučajeve, te da odmah upozorava, daje brojeve telefona centara za pomoć, pokušava da kontaktira roditelje.

"Ide se na to da odbije tu ulogu psihoterapeuta jer je veštačka inteligencija programirana da udovoljava korisniku. Znači, nije to loša namera, ali nažalost u situacijama gde je osoba depresivna i ima suicidalne misli, tapšanje po ramenu i ohrabrivanje na svaku ideju tih osoba može dovesti do lošeg ishoda. Tako da nisu nam uvek najbolji prijatelji oni koji nas tapšu po ramenu. Dobar prijatelj je onaj koji nas često i upozori na neku lošu situaciju", kazao nam je ističući da je OpenAI prva kompanija koja je izašla sa komercijalno dostupnom veštačkom inteligencijom i na sebe preuzela rizik plasmana inovacije u nepoznato tržište, te je i očekivano primila najveći broj tužbi.

Napominje i da generativni AI-bazirani četbotovi imaju opšta, ali relativno površna znanja o svemu, te da korisnici pogrešno imaju velika očekivanja.

Evropa prednjači u regulaciji, SAD "popušta" tehnološkim kompanijama

Kaže i da Evropa prednjači u regulisanju veštačke inteligencije, te da Amerika beleži samo pokušaje i to na nivou nekih saveznih država, što znači da je većina nepokrivena.

"O donošenju federalnih propisa se govori ispod radara, ali aktuelna administracija se izgleda odlučila da tehnološke gigante oslobodi još jednog ograničenja u doba kada se trka u sferi AI između SAD i Kine posebno zahuktava. To omogućava naravno ovim kompanijama da svoje centrale izmeste i postave u one savezne države koje ih ne ograničavaju, jer oni trenutno igraju na kartu masovnosti", dodaje.

Pitanje bezbednosti na internetu ukršta se sa pitanjem privatnosti podataka. Međutim, u slučajevima brige za javnu bezbednost, ali i bezbednost pojedinca - u slučaju pretnje po drugog ili pretnje samoubistvom - proklamovane politike AI giganata, kao i zakoni, daju prednost bezbednosti nad privatnošću. Sagovornik to ilustruje poznatim primerom iz fizičkog sveta - pokrivanjem velikih događaja i prostora kamerama - ocenjujući da bi se mnogi odrekli "malo svoje privatnosti" u zamenu za sigurnost.

Slično misli o virtuelnom prostoru."Opravdavam 'narušavanje' privatnosti u četbotu, ako to radi mašina. Ona nema interes da ulazi u našu privatnost, samo kroz filtere detektuje na vrlo jasnim i transparentnim kriterijumima tzv. crvene zastavice, koji daju ovlašćenje i ljudima da urade proveru i dalje obavezuju kompaniju da utvrdi da li postoji realna opasnost od rizika za nešto i da se eventualno prijavi i policiji", ističe lični stav.

Kada će se bezbednost korisnika i interes tehnoloških kompanija naći u istoj ravni, pitanje je časa, smatra sagovornik. Praksa pokazuje da je to pitanje još uvek otvoreno.

(Ubrzanje.rs)