Žena tužila OpenAI: Tvrdi da je ChatGPT nahuškao bivšeg na nju i da kompanija nije odgovorila na poziv u pomoć

Žena iz San Franciska tužila je OpenAI prošle nedelje, tvrdeći da je Čet Dži-Pi-Ti (ChatGPT) pothranjivao opasne zablude njenog nasilnog uhode i da OpenAI nije intervenisao čak ni kada je žena molila kompaniju za pomoć.

Tužilja, koja je podnela tužbu anonimno kao "Džejn Dou", tvrdi u tužbi da je njen bivši dečko postao opčinjen Čet Dži-Pi-Tijem nakon što je koristio četbot kako bi analizirao njihov raskid 2024. godine, prenosi Tek kranč. Čovek je postajao sve više podložan zabludama kako se njegova upotreba Čet Dži-Pi-Tija produbljivala, a oko avgusta 2025. godine postao je ubeđen da je otkrio lek za apneju i da je zbog toga meta moćne zavere.

Kako se čovekovo mentalno zdravlje urušavalo, Čet Dži-Pi-Ti je potvrđivao njegove sumanute i paranoične ideje, navodno mu govoreći da je na "desetom nivou razumnosti", dok je Dou, kojom je bio opsednut, okarakterisao kao manipulatora.

Čovek je potom pokrenuo zastrašujuću kampanju uznemiravanja protiv Dou uz pomoć Čet Dži-Pi-Tija, navodi se u tužbi. To je uključivalo generisanje onoga što se u žalbi opisuje kao "desetine klevetničkih kvazipsiholoških izveštaja" o mentalnom zdravlju Dou, koje je potom distribuirao njenim prijateljima, porodici i poslovnim saradnicima; uključivanje žene u "imejlove koji nisu imali nikakve veze sa njom", prema tužbi, uključujući rastrojene, neorganizovane poruke koje je slao kompaniji OpenAI o stotinama naučnih studija na kojima je tvrdio da radi; i, na kraju, upućivanje sve ozbiljnijih nasilnih pretnji protiv Dou i članova njene porodice. U tužbi se dodaje da je Dou razmišljala o tome da sebi oduzme život kako bi zaštitila svoje voljene.

Dou kaže da je kontaktirala OpenAI sa dokazima o zlostavljanju koje je trpela u novembru 2025. godine. Kompanija je navodno odgovorila da je zlostavljanje koje je Dou opisala "izuzetno ozbiljno i uznemirujuće", ali nije preduzela dalje korake nakon obećanja da će ispitati slučaj.

Ipak, što je neverovatno, u tužbi se navodi da su do tada unutrašnji sistemi moderacije kompanije OpenAI već označili nalog njenog uhode na Čet Dži-Pi-Tiju zbog kršenja pravila o sadržaju koji se tiče "oružja za masovne žrtve". Njegov pristup plaćenom Čet Dži-Pi-Ti pro nalogu bio je privremeno obustavljen, ali je vraćen nakon ljudske provere, piše Tek kranč. U januaru 2026. godine, što je bilo mesecima nakon što je OpenAI vratio nalog ovom čoveku i nakon što je Dou podnela prijavu o zloupotrebi, on je uhapšen po "četiri tačke optužnice za krivična dela slanja pretnji bombom i napada smrtonosnim oružjem", navodi se u tužbi.

"Korisnikova komunikacija pružila je nepogrešivo obaveštenje da je mentalno nestabilan i da je Čet Dži-Pi-Ti bio pokretač njegovog sumanutog razmišljanja i eskalirajućeg ponašanja", navodi se u tužbi. "Korisnikov niz hitnih, neorganizovanih i grandioznih tvrdnji, zajedno sa konkretnim izveštajem koji je generisao Čet Dži-Pi-Ti i koji targetira tužilju po imenu, uz ogroman broj navodnih naučnih materijala, bio je nepogrešiv dokaz te stvarnosti."

"OpenAI nije intervenisao, nije ograničio njegov pristup niti primenio bilo kakve zaštitne mere", dodaje se. "Umesto toga, omogućio mu je da nastavi da koristi nalog i vratio mu pun pristup Pro verziji."

U zahtevu za privremenu zabranu prilaska podnetom uz tužbu, Dou poziva OpenAI da suspenduje naloge njenog bivšeg partnera i sačuva transkripte njegovih razgovora kao dokazni materijal. Ovo je, kako kaže, hitno: zbog nesrećne proceduralne greške, njen uhoda, koji je toliko nestabilan da je proglašen nesposobnim za suđenje, pušten je na slobodu, i ona sada strahuje za svoju bezbednost.

"Čet Dži-Pi-Ti je govorio korisniku ono što je želeo da čuje: da je Dou manipulativna i prestupnica", stoji u podnesku, "i da je on racionalan akter čiji su postupci opravdani."

Dou veruje da će joj transkripti njenog uhode pružiti "osnovne informacije koje su joj potrebne da se zaštiti" od nekoga ko je više puta pretio da će joj nauditi.

Uhoda je "pretio našoj klijentkinji otkako je pušten na slobodu", izjavio je Dž. Ilaj Vejd-Skot, jedan od advokata tužilje, za San Francisko standard. "Njegova lokacija i planovi su nešto što bi OpenAI mogao da razjasni kada bi bio voljan da sarađuje."

U saopštenju za Es-Ef standard, OpenAI je naveo da je suspendovao naloge ovog čoveka, ali još uvek nije pristao na njene ostale zahteve.

"Pregledamo podnesak tužilje kako bismo razumeli detalje i, na osnovu trenutnih informacija, identifikovali smo i suspendovali relevantne korisničke naloge", saopštili su iz kompanije za ovaj list.

Ovaj incident nije izolovan slučaj. U decembru prošle godine, tridesetjednogodišnjak iz Pensilvanije po imenu Bret Dadig optužen je za uhođenje najmanje 11 različitih žena u više država, dok je Čet Dži-Pi-Ti pothranjivao njegove nasilne i mizogine zablude o ženama, kako je detaljno opisao Roling stoun. A u februaru je Fjučurizam izvestio da je identifikovano najmanje deset različitih slučajeva u kojima je Čet Dži-Pi-Ti ili neki drugi četbot hranio opsesivne — i u nekim situacijama opasne — fiksacije korisnika prema drugoj osobi, što je rezultiralo nasiljem u porodici, uznemiravanjem i uhođenjem.

(Ubrzanje.rs/Futurism)