Anthropic prijavio korisnicu policiji, žena uhapšena: Policija reagovala zbog onog što je napisala četbotu

Žena iz Bonita Springsa je uhapšena nakon što su istražitelji saopštili da je pretila oružanim napadom na Kancelariju šerifa okruga Li u saveznoj državi Florida, dok je koristila platformu veštačke inteligencije kompanije Antropik (Anthropic). Kancelarija šerifa okruga Li identifikovala je ženu kao Karli Mišel Heler.

Prema izveštaju o hapšenju, korisnica identifikovana kao Karli je 26. septembra napisala da će "zapucati" u Kancelariji šerifa okruga Li. Istražitelji navode da je ista korisnica sledećeg dana ostavila još jednu poruku u kojoj je navela da je nabavila novo oružje.

U izveštaju o hapšenju stoji da platforma veštačke inteligencije kompanije Anthropic koristi bezbednosne mere za praćenje ključnih fraza i potencijalno pretećeg sadržaja. Istražitelji su napisali da je zbog ozbiljnosti izjava informacija prosleđena timu za ljudski pregled, koji je potom te izjave prijavio organima za sprovođenje zakona.

Šerif Karmajn Marseno rekao je za WINK News da je Helerova kasnije izjavila da veštačku inteligenciju koristi kao "dnevnik". Zamenici šerifa su identifikovali Helerovu, otišli do njene kuće u Bonita Springsu i ona je privedena bez incidenata, nakon čega je detektiv obaveštajne službe preuzeo istragu. Helerova je optužena za upućivanje pisane pretnje nasiljem prema zakonu Floride.

Šerif Karmajn Marseno je u saopštenju naveo da veštačka inteligencija može biti koristan alat, ali da se takođe može zloupotrebiti.

"Veštačka inteligencija je moćan alat i, kao i svaka tehnologija, može se zloupotrebiti", rekao je Marseno. "Kada neko koristi AI da uputi ili olakša pretnju, tu pretnju moramo shvatiti ozbiljno."

Marseno je takođe rekao da korisnici treba da shvate da "nikada nisu zaista anonimni", posebno kada koriste AI čet-sobe i pretrage.

"AI možda menja način na koji se stvaraju pretnje, ali naša posvećenost zaštiti ljudi okruga Li se nije promenila", dodao je Marseno.

Objavljena Politika korišćenja kompanije Anthropic navodi da njen Tim za zaštitu koristi detekciju i nadzor kako bi sprovodio svoja pravila. Politika kompanije zabranjuje korišćenje njenih proizvoda za omogućavanje ili promovisanje nasilnih dela ili zastrašivanja.

Anthropic takođe u svojoj objavljenoj politici o zahtevima vlade navodi da podaci o korisnicima mogu biti otkriveni policiji u ograničenim hitnim situacijama koje uključuju opasnost po život ili ozbiljne telesne povrede.

WINK News se obratio kompaniji Anthropic za komentar i za više informacija o tome kako njeni mehanizmi zaštite tretiraju pretnje i kada se informacije mogu podeliti sa organima za sprovođenje zakona.

Ijan Marlou, izvršni direktor FITECH-a, rekao je za WINK News da konverzaciona priroda veštačke inteligencije može navesti korisnike da poveruju da je interakcija privatnija nego što zaista jeste.

"Nešto što deluje da je konverzaciono po prirodi ne stvara odmah osećaj poput: 'Oh, ovo se snima', jer oni samo vode razgovor", rekao je Marlou.

Dr Krisan Rul, docentkinja za AI i menadžment na Univerzitetu Florida Gulf Coast, rekla je da bi ljudi mogli da se okrenu veštačkoj inteligenciji jer deluje da ne osuđuje.

"Tu je i onaj osećaj, ako komuniciram sa mašinom, ona me neće osuđivati", izjavila je Rul.

Rul je istakla da bi korisnici ipak trebalo da budu oprezni kada tretiraju AI platformu kao privatni dnevnik.

"AI nije vaš najbolji prijatelj", rekla je Rul. "Moramo imati na umu da je ovo tehnologija."

Penzionisani specijalni agent FBI-a, Ričard Kolko, rekao je za WINK News da organi za sprovođenje zakona i sudovi još uvek uče kako da se nose s pretnjama koje uključuju veštačku inteligenciju.

"Sve ovo su nove stvari u svetu i sudovi još uvek pokušavaju da ih shvate", naglasio je Kolko.

Helerovoj je zakazano pojavljivanje pred sudom za novembar.

(Ubrzanje.rs/Winknews)