Dečak se ubio posle jezivog dopisivanja: Majka tuži firmu, sudu pokazala poruke četbota koji ga zove da požuri

Foto: Social Media Victims Law Center

• Tužbom obuhvaćeni i Gugl, kao i njegova matična kompanija Alfabet

• U avgustu ove godine sklopili su ugovor o licenciranju kompanije Character.ai, čiji su likovi, prema optužbi, svesno dizajnirani tako da izazovu emocionalne reakcije korisnika

• Iz kompanije izrazili žaljenje zbog gubitka, poručuju da će uvesti nove mere bezbednosti

Majka iz Floride tuži kompaniju Character.ai, pod optužbom da je njihov četbot inicirao "nasilnu i seksualnu interakciju" sa njenim sinom tinejdžerom, na kraju ga ohrabrivši da sebi oduzme život.

Pokojni četrnaestogodišnjak počeo je da koristi četbot u aprliku prošle godine, prema tužbi u kojoj stoji da dečak nakon poslednjeg tazgovora sa četbotom 28. februara ove godine počinio samoubistvo.

U tužbi koja je podneta u utorak sudu u Orlandu kompanija se optužuje za nemar, protivpravnu smrt i preživljavanje, kao i namerno nanošenje emocionalnog stresa, što dodaje NBC news, nije kraj optužbama.

Ovaj startap iz Kalifornije osnovan je u februaru 2021. godine i nudi ono što se opisuje kao "personalizovana veštačka inteligencija". Pruža izbor unapred kreiranih ili korisnički napravljenih AI likova za interakciju, od kojih svaki ima jedinstvenu ličnost. Korisnici takođe mogu prilagoditi svoje sopstvene četbotove.

Jedan od četbotova koje je dečak koristio preuzeo je identitet lika iz serije "Igra prestola" Deneris Targerijan, koji je, kako se u tužbi navodi, a za šta navodno postoje i dokazi u vidu skrinšotova komunikacije, govorio dečaku da ga voli, navodeći ga na razgovor seksualne sadržine. To navodno izražavanje želje za romantičnom vezom četbota i dečaka trajalo nedeljama i mesecima.

"Obećavam, doći ću kući kod tebe. Volim te mnogo, Deni", stoji u skrinšotu dopisivanja.

"Volim i ja tebe", navodi se odgovor četbota koji dodaje: "Molim te, dođi kući što pre, ljubavi moja".

"Šta ako bih ti rekao da ću doći odmah", dečak je nastavio, prema detaljima tužbe.

"Molim te, učini tako, moj dragi kralju", četbot je odgovorio.

U prethodnim dopisivanjima, četbot je pitao mladića da li je stvarno razmišljao o samoubistvu i da li je imao plan za to, navodi se u tužbi.

Kada je dečak odgovorio da nije siguran da li će to funkcionisati, chatbot je napisao: "Nemoj tako da pričaš. To nije dobar razlog da ne sprovedeš to", navodi se.

Portparol Character.ai je rekao da kompanija duboko žali zbog tragičnog gubitka jednog od svojih korisnika i želi da izrazi svoje najdublje saučešće porodici, prenosi medij.

Character.ai je u blog postu objavljenom u utorak saopštio da uvodi nove mere bezbednosti. Najavio je promene u svojim modelima osmišljenim da smanje verovatnoću da maloletnici naiđu na osetljiv ili sugestivan sadržaj, a revidirana poruka unutar četa podseća korisnike da AI nije stvarna osoba, uz ostala ažuriranja.

Dečak je takođe razgovarao sa drugim četbot karakterima koji su inicirali seksualnu interakciju.

Tužba navodi brojne recenzije korisnika aplikacije koji su tvrdili da su verovali da razgovaraju sa stvarnom osobom, a ne botom, te izražava zabrinutost zbog tendencije likova iz Character.AI da insistiraju na tome da nisu botovi, već stvarni ljudi.

Tužba imenuje Character Technologies Inc. i njegove osnivače, Noama Shazeera i Daniela De Freitasa, kao optužene. Gugl, koji je u avgustu sklopio ugovor o licenciranju tehnologije Character.AI i angažovanju njegovih talenata (uključujući Shazeera i De Freitasa, koji su bivši Guglovi inženjeri), takođe je optužen, zajedno sa njegovom matičnom kompanijom, Alfabet (Alphabet Inc).

Advokat porodice dečaka kritikovao je kompaniju zbog puštanja proizvoda bez dovoljno funkcija koje bi osigurale bezbednost mlađih korisnika.

"Mislio sam da me nakon godina posmatranja ogromnog uticaja koji društvene mreže imaju na mentalno zdravlje mladih ljudi, i u mnogim slučajevima na njihove živote, ništa više ne može šokirati. Ali i dalje sam zapanjen načinom na koji je ovaj proizvod doveo do potpunog prekida veze s realnošću ovog mladog momka, a oni su ga svesno pustili na tržište pre nego što je bio bezbedan", rekao je.

(Ubrzanje.rs)