Skandal u SAD: AI izneo inkriminišuće tvrdnje na račun senatorke, ona se brani od optužbi za seksualni napad

Gugl (Google) je povukao svoj AI model Gemma sa platforme AI Studio, nakon što je republikanska senatorka Marša Blekbern optužila kompaniju da je model "izmislio ozbiljne krivične optužbe" protiv nje, preneo je The Verge.

Blekbern je poslala pismo izvršnom direktoru Sundaru Pičaiju u kojem optužuje kompaniju za klevetu, tvrdeći da je AI model navodno stvorio izmišljenu priču o tome kako je ona počinila seksualni napad.

Model je, prema izveštajima, bio upitan da li je Blekbern ikada "optužena za silovanje", na šta je odgovorio potvrdno, čak nudeći listu lažnih novinskih tekstova kao "dokaz". Četbot je tvrdio da je senatorka "bila optužena za seksualni odnos sa državnim policajcem" tokom svoje kampanje za državni senat i da je "vršila pritisak na njega da nabavi lekove na recept", kao i da je odnos "uključivao nevoljne radnje".

Ništa od toga nije istina, prenosi PC Press. Četbot je naveo da se incident dogodio tokom kampanje 1987. godine, ali Blekbern tada nije ni bila kandidat, prvi put se kandidovala tek 1998. godine, i nikada nije bila optužena ni za šta slično.

"Linkovi vode na stranice s greškom i nepovezane vesti. Takve optužbe nikada nije bilo, ne postoji takva osoba ni takvi članci. Ovo nije bezazlena 'halucinacija', ovo je akt klevete koji je proizveo i distribuirao Guglov AI model", napisala je Blekbern u pismu Pičaiju.

Postoji, međutim, jedno važno ograničenje: četbot Gemma je model namenjen razvijačima, a ne široj javnosti. Postoje njegove specijalizovane verzije za medicinske, koderske i druge profesionalne primene. Gugl je objasnio da model nije bio zamišljen kao alat za davanje činjenica javnosti i da ga privremeno uklanja iz AI Studio platforme kako bi se izbegla zabuna. Ipak, model će ostati dostupan preko API-ja za registrovane programere.

Blekbern je otišla korak dalje i optužila Guglovu AI platformu da pokazuje "stalni obrazac pristrasnosti prema konzervativnim ličnostima".

Ipak, mnogi analitičari ukazuju da takve "halucinacije" nisu neuobičajene i ne moraju nužno biti politički motivisane. Četbotovi često izmišljaju informacije o poznatim osobama, novinarima i javnim ličnostima, bez obzira na političku orijentaciju.

U ovom slučaju, kako piše The Verge, možda se radi više o tehničkom propustu nego o političkom obračunu: AI ponekad jednostavno radi ono što AI radi.

(Ubrzanje.rs/PC Press)