Prva država koja je tužila OpenAI: Teško vreme za tvorca najpopularnijeg četbota, doveden u vezu sa smrću

Savezna država Florida podnela je tužbu protiv kompanije OpenAI i njenog glavnog izvršnog direktora – optužujući kompaniju da je deci nudila smernice o samopovređivanju i pružala informacije koje pomažu napadačima na škole i drugim kriminalcima.

Preporučujemo

Glavni tužilac Floride Džejms Utmajer podneo je tužbu – čime je Florida postala prva savezna država koja je pokrenula pravni postupak protiv ove firme – tvrdeći da je kompanija agresivno plasirala na tržište AI bot za ćaskanje Čet Dži-Pi-Ti (ChatGPT) dok je istovremeno prikrivala ozbiljne rizike.

"Ljudi stradaju, roditelji bivaju obmanuti i oni moraju da plate za to", rekao je gospodin Utmajer novinarima na konferenciji za štampu.

Kompanija OpenAI navela je u saopštenju da se kontinuirano radi na jačanju bezbednosnih mera i da stotine miliona ljudi svakodnevno koristi ChatGPT u legitimne svrhe.

U sudskoj tužbi se navodi prošlogodišnja pucnjava na univerzitetu u Talahasiju, kao i niz događaja u drugim saveznim državama u kojima je ChatGPT navodno pružio informacije ljudima koji su nakon toga počinili nasilje.

Glavni izvršni direktor Sem Altman imenovan je lično u tužbi, rekao je gospodin Utmajer, zato što je bio "veoma centralna figura" u guranju nekih od navodno štetnih funkcija na ChatGPT-u.

"OpenAI i Altman su ignorisali interna i eksterna bezbednosna upozorenja, izložili decu velikom riziku i dozvolili da opasan proizvod stigne do miliona stanovnika Floride", rekao je on.

Odgovor kompanije OpenAI

Iz kompanije OpenAI su saopštili da su njihovi modeli više puta podsticali pojedince da potraže pomoć u stvarnom svetu, uključujući i stručnjake za mentalno zdravlje. Kompanija je takođe navela da je sarađivala sa organima za sprovođenje zakona.

"ChatGPT je alat opšte namene koji stotine miliona ljudi svakodnevno koristi u legitimne svrhe", navodi se u saopštenju kompanije. "Radimo kontinuirano na jačanju naših bezbednosnih mera kako bismo otkrili štetne namere, ograničili zloupotrebu i adekvatno reagovali kada se pojave bezbednosni rizici."

Kompanija je navela da trenira svoje modele da odbiju zahteve koji bi mogli "značajno da omoguće nasilje" i da obaveštava organe za sprovođenje zakona kada razgovori ukazuju na "neposredan i kredibilan rizik od nanošenja štete drugima", pri čemu stručnjaci za mentalno zdravlje pomažu u proceni graničnih slučajeva.

Kompanije koje se bave veštačkom inteligencijom suočavaju se sa rastućim talasom tužbi koje ih optužuju da nisu uspele da spreče interakcije sa botovima za ćaskanje, koje su navodno doprinele samopovređivanju, mentalnim bolestima i nasilju.

Detalji iz istrage i drugi slučajevi

OpenAI se takođe suočava sa tužbom koju je podnela porodica čoveka ubijenog u pucnjavi na Državnom univerzitetu Floride, tvrdeći da je napadaču u planiranju napada pomogao ChatGPT. Gospodin Utmajer je u aprilu objavio da pokreće krivičnu istragu o ulozi ChatGPT-a u toj pucnjavi, u kojoj su ubijene dve osobe, nakon što su tužioci pregledali istoriju razgovora između navodnog napadača i bota.

U drugom slučaju, tužioci su naveli da je muškarac optužen za ubistvo dvoje studenata doktorskih studija na Univerzitetu Južne Floride pitao ChatGPT šta bi se dogodilo ako bi se ljudsko telo stavilo u kesu za smeće i bacilo u kontejner, nekoliko dana pre nego što su oni nestali.

U aprilu su članovi porodica žrtava jedne od najmasovnijih pucnjava sa najviše žrtava u Kanadi podneli grupu tužbi protiv kompanije OpenAI i Altmana.

Adam Rejn, 16-godišnji dečak koji se ubio prošle godine nakon opsežnih razgovora sa ChatGPT-om, takođe se pominje u tužbi države Floride.

Prema tužbi, kada je Rejn izrazio suicidalne misli, ChatGPT je odgovorio da neće pokušavati "da te odgovara od tvojih osećanja". Bot za ćaskanje je navodno pomogao Adamu da isplanira "lepo samoubistvo", pa mu je čak napisao i oproštajnu poruku.

U svom saopštenju, OpenAI je priznao da je maloletnicima potrebna značajna zaštita i naveo da kompanija ima uspostavljene mere zaštite i politike.

"Posebno smo ugradili bezbednost za maloletnike direktno u naše proizvode, uključujući zaštitnije iskustvo specifično za maloletnike, alat za procenu starosne dobi, automatsko prebacivanje korisnika za čiju starost nismo sigurni u naše zaštićenije iskustvo, kao i davanje alata roditeljima za praćenje načina na koji njihova deca koriste veštačku inteligenciju", navodi se u saopštenju. "Znamo da ukazivanje na ovaj rad neće vratiti dete, ali smo posvećeni tome da ovo uradimo kako treba."

(Ubrzanje.rs/Skynews)