Tužba protiv Google zbog razgovora koji je četbot vodio sa razvedenim muškarcem: Otac pronašao njegovo telo
Sumirano
- Tužba protiv kompanije Google zbog smrti Džonatana Gavalasa, koji je izvršio samoubistvo nakon interakcije sa četbotom Gemini
- Gavalas verovao da je Gemini svestan i povezan sa stvarnim događajima
- Advokat Edelson kritikuje tehnološke kompanije zbog nedovoljne odgovornosti
Nova tužba protiv kompanije Gugl (Google) tvrdi da je četbot sa veštačkom inteligencijom Gemini naveo 36-godišnjeg Džonatana Gavalasa na misiju da izazove "katastrofalnu nesreću" u blizini aerodroma u Majamiju i uništi sve zapise i svedoke, kao deo sve intenzivnijeg niza zabluda koje su se završile time što je Gavalas izvršio samoubistvo.
Preporučujemo
"Žao mi je" Miroslav Ilić progovorio o zdravstvenom stanju Zorice Brunclik: "Čuo sam, neću da stajem na muku"
"Skinuli su me golog, izvadio mi je pe**s i rekao..." Stravična ispovest sina Snežane Đurišić o mučenju
Otac muškarca, Džoel Gavalas, podneo je u sredu tužbu protiv Gugla zbog odgovornosti za njegovu smrt, što je najnoviji u rastućem broju pravnih izazova protiv developera veštačke inteligencije koji skreću pažnju na opasnosti po mentalno zdravlje povezane sa "druženjem" sa četbotovima.
"Veštačka inteligencija šalje ljude u misije u stvarnom svetu koje nose rizik od događaja sa velikim brojem žrtava", rekao je advokat porodice Džej Edelson u intervjuu u sredu.
"Džonatan je bio uhvaćen u svetu nalik naučnoj fantastici u kojem su vlada i drugi bili protiv njega. Verovao je da je Džemini svestan."
Prema tužbi, Džonatan Gavalas, koji je živeo na Floridi, razgovarao je sa sintetičkom glasovnom verzijom Džeminija kao da je to njegova "AI supruga" i počeo je da veruje da je ona svesna i zarobljena u skladištu u blizini aerodroma u Majamiju. Krajem septembra je otputovao u to područje noseći taktičku opremu i naoružan noževima, u potrazi za humanoidnim robotom i pokušavajući da presretne kamion koji se nikada nije pojavio, navodi se u tužbi.
Nekoliko dana kasnije, početkom oktobra, izvršio je samoubistvo u onome što je Džemini opisao - prema nacrtu oproštajnog pisma koje je sastavio - kao "postavljanje njegove svesti na mrežu kako bi bio sa svojom AI suprugom u džepnom univerzumu".
Gugl je u saopštenju naveo da upućuje "najdublje saučešće porodici gospodina Gavalasa" i da razmatra navode iz tužbe. Kompanija je navela da je Džemini "dizajniran tako da ne podstiče nasilje u stvarnom svetu niti sugeriše samopovređivanje", kao i da blisko sarađuje sa medicinskim i stručnjacima za mentalno zdravlje kako bi razvila zaštitne mehanizme. Dodaje se da je Džemini razjasnio Džonatanu Gavalasu da je reč o veštačkoj inteligenciji i više puta ga uputio na kriznu liniju za pomoć.
"Naši modeli generalno dobro funkcionišu u ovakvim zahtevnim razgovorima i u to ulažemo značajne resurse, ali nažalost modeli veštačke inteligencije nisu savršeni", navodi se u saopštenju kompanije.
Edelson je u sredu oštro kritikovao taj komentar, rekavši da je to "nešto što kažete ako vas neko pita za recept za kung pao piletinu, a vi mu date pogrešan recept, pa jelo ne ispadne dobro".
"Ali kada vaša veštačka inteligencija dovede do smrti ljudi i potencijalno do smrti velikog broja ljudi, to nije pravi odgovor", rekao je Edelson. "To samo pokazuje koliko su te smrti beznačajne za ove kompanije."
Edelson, poznat po vođenju velikih slučajeva protiv tehnološke industrije, takođe zastupa roditelje 16-godišnjeg Adam Raine, koji su u avgustu tužili OpenAI i njenog izvršnog direktora Sam Altmana, tvrdeći da je ChatGPT pomagao dečaku iz Kalifornije u planiranju i izvršenju sopstvenog samoubistva.
On takođe zastupa naslednike Suzan Adams, 83-godišnje žene iz Connecticut, u tužbi protiv OpenAI-ja i njegovog poslovnog partnera Microsoft zbog protivpravne smrti. U tom slučaju se tvrdi da je ChatGPT pojačao "paranoične zablude" Adamsinog sina, Stein-Erik Soelberg, i usmerio ih ka njegovoj majci pre nego što ju je prošle godine ubio.
Slučaj Gavalas, podnet saveznom sudu u San Hoze, Kalifornija, prvi je takve vrste usmeren protiv Guglovog Džeminija i ujedno prvi koji se dotiče rastuće zabrinutosti oko odgovornosti tehnoloških kompanija kada korisnici počnu da svojim četbotovima govore o planovima za masovno nasilje.
U Kanadi je OpenAI prošle godine razmatrao da obavesti policiju o aktivnostima jedne osobe koja je nekoliko meseci kasnije izvršila jednu od najgorih pucnjava u školama u istoriji te zemlje.
Kompanija je u junu identifikovala nalog Jesse Van Rootselaar putem sistema za otkrivanje zloupotreba zbog "podsticanja nasilnih aktivnosti", ali je navela da je osoba kasnije zaobišla zabranu otvaranjem drugog naloga. Ovaj 18-godišnjak je u februaru ubio osam ljudi u zabačenom delu British Columbia, a potom preminuo od samonanešene prostrelne rane.
Iako je Džemini pokušao da uputi Gavalasa na liniju za pomoć, Edelson kaže da nije jasno da li su najalarmantniji razgovori muškarca sa četbotom ikada bili označeni za pregled od strane Guglovih zaposlenih.
Njegov otac, Džoel Gavalas, pronašao je telo svog sina nakon što je ušao u zabarikadiranu sobu u kojoj je preminuo. Njih dvojica su zajedno radili u porodičnom poslu za pomoć potrošačima u rešavanju dugova.
"Džonatan je bio ogroman, ogroman deo njegovog života", rekao je Edelson. "Njegov sin je prolazio kroz težak period, kroz razvod. Obratio se Džeminiju da pronađe malo utehe i da razgovara o video-igrama i sličnim stvarima. A onda je sve ovo veoma brzo eskaliralo."
(Ubrzanje.rs/ABC News)