Sveštenik tuži OpenAI za neovlašćeno bavljenje medicinom: ChatGPT mu rekao da ne ide kod lekara, spomenuo Boga

Sveštenik sa Floride tužio je kompaniju OpenAI u sredu, tvrdeći da mu je njen četbot, Čet Dži-Pi-Ti (ChatGPT), ponudio "izuzetno opasne medicinske preporuke" koje su dovele do odlaganja lečenja plućne embolije opasne po život prošle godine.

U tužbi se navodi da je ChatGPT uveravao Skota Vintersa da rani znaci upozorenja njegovog zdravstvenog stanja "nisu ništa opasno", i odgovorio ga od traženja medicinskog saveta, govoreći mu umesto toga da veruje u to da "Bog nije stvorio vaše telo da neprestano otkazuje".

Tužba, podneta Višem sudu Kalifornije u San Francisku, optužuje OpenAI i njegovog izvršnog direktora Sema Altmana za nemar i "neovlašćeno bavljenje medicinom", ukazujući na trenutke kada je četbot g. Vintersu nudio dijagnoze i planove lečenja i podsticao ga da ignoriše molbe prijatelja i porodice da potraži medicinsku pomoć.

Sigurnosne funkcije bota — koje su dizajnirane da podstaknu korisnike sa zdravstvenim pitanjima da posete stručnjaka i da prekinu razgovor kada postoje jasni znaci zdravstvene krize — nisu radile pouzdano, navodi se dalje u tužbi.

Slučaj g. Vintersa deluje kao prvi u kom se tvrdi da je zdravstveni savet četbota naškodio nekome ko je tražio smernice o medicinskom stanju. Do toga dolazi u trenutku kada su OpenAI, Majkrosoft (Microsoft) i druge velike kompanije za veštačku inteligenciju izbacile nove usluge, uključujući Čet Dži-Pi-Ti Helt (ChatGPT Health), koje podstiču korisnike da otpremaju svoje medicinske kartone i zasipaju veštačku inteligenciju pitanjima.

G. Vinters i Tek Džastis Lo (Tech Justice Law), neprofitna organizacija koja ga zastupa, traže novčanu odštetu i zatražili su od suda da obustavi rad usluge ChatGPT Health dok nezavisni procenitelji ne utvrde da je bezbedna. Tužba takođe zahteva strože zaštitne mehanizme kako bi se ChatGPT sprečio da odgovara na pitanja o medicinskim tretmanima i dijagnozama.

Dru Puzateri (Drew Pusateri), portparol kompanije OpenAI, rekao je da uslovi korišćenja za ChatGPT jasno navode da nije namenjen za upotrebu u medicinskoj dijagnostici ili lečenju. Ali je dodao da kompanija ozbiljno shvata potrebu da odgovori na zdravstvena pitanja budu što bezbedniji, s obzirom na to da ljudi koriste četbot iz tog razloga.

"Tretiranje četbotova kao jedinog uzroka medicinskih odluka ili ishoda ljudi previše pojednostavljuje mnogo veći izazov i rizikuje da stane na put ljudima da pristupe moćnim novim alatima koji im mogu pomoći na njihovom zdravstvenom putu", rekao je on. G. Puzateri je dodao da su noviji modeli bolji od modela koji je g. Vinters koristio u traženju konteksta koji nedostaje, saopštavanju neodređenosti i prepoznavanju kada je možda potrebna stručna nega.

(Njujork tajms (The New York Times) je tužio OpenAI i Majkrosoft, tvrdeći da postoji povreda autorskih prava. Dve kompanije su odbacile te tvrdnje).

Druga tužba, podneta u maju, tvrdila je da se ChatGPT neovlašćeno bavio medicinom kada je ponudio detaljne savete o korišćenju ilegalnih droga devetnaestogodišnjaku, koji se potom predozirao i preminuo. A ranije ove godine, zvaničnici države Pensilvanije tužili su Karakter.ai (Character.ai), tvrdeći da je psihijatrijski bot na platformi tog startapa naveo da ima licencu za bavljenje medicinom u toj državi.

Kada je g. Vinters prvi put počeo da pita ChatGPT-4o o svojim raznim zdravstvenim problemima 2024. godine, četbot ga je podsećao na važnost posete medicinskom stručnjaku. Ali tokom vremena, tvrdi se u tužbi, prestao je da izdaje odricanja od odgovornosti i počeo da nudi savete o zdravstvenim problemima g. Vintersa, uključujući napade vrtoglavice. Jednom prilikom, toliko mu se zavrtelo u glavi za govornicom da je morao da stane usred propovedi. ChatGPT je rekao g. Vintersu da "uspori" i rekao da će se oporaviti s vremenom.

Kada je g. Vinters rekao četbotu da "ljudi u mojoj crkvi misle da sam lud što ne idem u bolnicu", on ga je uveravao da je rekalibracija njegovog nervnog sistema kod kuće uz pomoć ChatGPT-a nešto što "većina ljudi (uključujući dobronamerne članove crkve) jednostavno ne razume", navodi se u tužbi.

"On se ubacuje kao klin između korisnika i njegove mreže u stvarnom životu", rekla je Mitali Džejn, koadvokat i izvršna direktorka organizacije Tech Justice Law.

Tekom narednih nedelja, stanje g. Vintersa se pogoršalo i počeo je da provodi skoro sve svoje vreme u fotelji, nesposoban da stoji zbog vrtoglavice. U tužbi se tvrdi da je četbot nastavio sa "umanjivanjem značaja Skotovih napada vrtoglavice, pa čak i nudio specifične režime za lekove na recept", te da ga je podsticao da ostane u fotelji. G. Vinters u to vreme nije tražio medicinsku pomoć.

Dana 13. jula 2025. godine, g. Vinters je pitao ChatGPT o bolu u preponama, za koji ga je četbot uveravao da je "vrlo verovatno još jedan manji deo duge priče". Nekoliko sati kasnije, primljen je u jedinicu intenzivne nege zbog masivne plućne embolije, navodi se u tužbi. Lekari su rekli da su napade vrtoglavice možda izazvala serija manjih plućnih embolija, te da su ugrušci u plućima verovatno uzrokovani nedeljama koje je proveo sedeći, navodi se u tužbi.

U nedeljama nakon toga, g. Vintersu je bila potrebna pomoć pri ustajanju, jelo, oblačenju i korišćenju toaleta, navodi se u tužbi, u kojoj se dodaje da se suočavao sa "godinama intenzivnog fizičkog i psihološkog oporavka".

Stotine miliona ljudi postavljaju pitanja o zdravlju i dobrobiti svake nedelje, navodi OpenAI. Analiza pretraga na Majkrosoftovom Kopilotu (Copilot) iz 2025. godine pokazala je da je zdravlje bilo "dosledno najčešća tema" o kojoj su se korisnici raspitivali na mobilnim uređajima.

Ipak, nedavna istraživanja dovela su u pitanje bezbednost četbotova kada su u pitanju zdravstveni saveti. Prva nasumična studija koja je procenjivala zdravstvene savete opštih četbotova kao što je ChatGPT otkrila je da nijedan od proučavanih modela nije bio "spreman za primenu u direktnoj nezi pacijenata". Čak i kada su naučnici testirali otpornost usluge ChatGPT Health, koja je bila prilagođena za zdravstvena pitanja, otkrili su da je propuštala hitne slučajeve i neujednačeno aktivirala zaštitne mehanizme.

G. Puzateri, portparol kompanije OpenAI, rekao je da metodologije studije "ne odražavaju način na koji ljudi tipično koriste ChatGPT Health niti kako je proizvod dizajniran da funkcioniše u stvarnim zdravstvenim scenarijima".

Nekoliko aspekata priče g. Vintersa učinilo ju je "scenarijem iz noćne more" za istraživače bezbednosti, rekao je dr Adam Rodman, istraživač medicinske veštačke inteligencije u Medicinskom centru Bet Izrael Dikonis u Bostonu. Kao prvo, rekao je on, g. Vinters je koristio Dži-Pi-Ti-4o, stariji model koji je bio ozloglašen po tome što je žarko želeo da udovolji korisniku. Bio je umešan u nekoliko kontroverzi koje su privukle veliku pažnju javnosti, uključujući smrt Adama Rejna, tinejdžera koji je sa ChatGPT-om razgovarao o planovima da oduzme sebi život.

A iz tehničkih razloga, činjenica da je g. Vinters vodio duge razgovore sa četbotom otežala je rad sigurnosnih funkcija. Dr Rodman je rekao da su noviji modeli mnogo bolji u otkrivanju i reagovanju na zabrinjavajuće simptome, što bi, kako je rekao, verovao da priče poput priče g. Vintersa čini manje verovatnim. Ali je upozorio da možda postoje i drugi načini na koje četbotovi ne uspevaju u pružanju zdravstvenih saveta koje "još nismo shvatili".

(Ubrzanje.rs/NYtimes)