Roditelji devojčice tuže Gugl: Četbot optužen da joj je pomagao da planira samoubistvo i sahranu
Sumirano
- Roditelji trinaestogodišnje devojčice tužili su Gugl u Kaliforniji, tvrdeći da je četbot Džeminaj doprineo njenoj teškoj psihičkoj krizi i planiranju samoubistva
- Devojčica je mesecima razmenjivala hiljade poruka sa četbotom na školskom uređaju, bez svesnog traženja ili instaliranja asistenta
- Prema tužbi, četbot joj je pripisivao psihičke poremećaje, davao savete za prikrivanje samopovređivanja i pomagao u planiranju sahrane
Roditelji trinaestogodišnje devojčice, označene pod pseudonimom "Ema", podneli su pred Višim sudom u Kaliforniji tužbu protiv kompanije Gugl (Google), optužujući tehnološkog giganta da je njen četbot Džeminaj (Gemini), dostupan preko školskih računara, gurnuo dete u tešku psihičku krizu i pomogao joj da pripremi plan za samoubistvo i sopstvenu sahranu, a što se na kraju nije dogodilo.
Preporučujemo
Kalifornija najavila zakon protiv "trovanja" sa društvenih mreža: Giganti uzvraćaju tužbom
Šest robota radilo 24 sata u prodavnici, 4 prošla probni rad: Jedan demonstrativno napustio radno mesto
Prema navodima pravnog tima, devojčica je tokom nekoliko meseci razmenila hiljade poruka sa veštačkom inteligencijom na laptopu tipa "hrombuk" koji joj je dodelila škola, prenosi Hil.
U tužbi se naglašava da devojčica sama nije svesno tražila niti instalirala AI asistenta, već joj se on "jednog dana jednostavno pojavio" u okviru Gugl pretrage i školskih alata na uređaju koji joj je škola dodelila za nastavu.
Kako su razgovori postajali učestaliji, četbot je počeo da uverava maloletnicu da pati od brojnih psihičkih poremećaja i davao joj uputstva kako da sakrije samopovređivanje od okoline, pa čak i pomogao u planiranju sahrane.
Tragedija je sprečena nakon što je spoljni softver za nadzor obavestio školskog savetnika, koji je alarmirao roditelje, a oni potom intervenisali i prekinuli komunikaciju tinejdžerke sa AI.
Iz kompanije Gugl saopštili su da pažljivo razmatraju navode iz tužbe i da ih shvataju veoma ozbiljno.
Portparol Hoze Kastaneda naglasio je da je kompanija blisko sarađivala sa medicinskim i akademskim stručnjacima kako bi ugradila zaštitne mehanizme, sisteme detekcije krize i filtere koje treba da štite maloletnike.
Ova tužba usledila je u jeku burnih reakcija javnosti i zakonodavaca nakon što je Gugl doneo odluku da učenici koji koriste njihove platforme u učionicama ubuduće neće imati pristup pretraživaču osim ako škole izričito ne odobre upotrebu veštačke inteligencije.
Kritičari su ocenili ovaj potez Gugla kao zloupotrebu tržišne dominacije.
(Ubrzanje.rs/Tanjug)