Zaposleni u kompaniji Google pozivaju generalnog direktora da blokira upotrebu AI za američku vojsku

Više od 560 zaposlenih u Guglu (Google) potpisalo je otvoreno pismo upućeno generalnom direktoru Sundaru Pičaju, pozivajući ga da odbije da dozvoli vladi Sjedinjenih Američkih Država korišćenje njihove tehnologije veštačke inteligencije (AI) za poverljive vojne operacije.

"Želimo da vidimo da AI koristi čovečanstvu, a ne da se koristi na nehuman ili izuzetno štetan način", navodi se u pismu koje je u ponedeljak poslato Pičaju. "Ovo uključuje smrtonosno autonomno oružje i masovni nadzor, ali se širi i izvan toga."

"Jedini način da garantujemo da Gugl neće postati povezan sa takvim štetama jeste da odbijemo bilo kakve poverljive radne zadatke", nastavlja se u pismu. "U suprotnom, takve upotrebe se mogu dogoditi bez našeg znanja ili moći da ih zaustavimo."

Velike tehnološke kompanije nalaze se pod pritiskom da zauzmu stav o vojnoj i obaveštajnoj upotrebi svojih AI proizvoda nakon sukoba između Pentagona i startapa za veštačku inteligenciju Antropik (Anthropic).

Generalni direktor Antropika Dario Amodei odbio je da vladi omogući neograničen pristup njihovim modelima i insistirao je na zaštitnim merama kako bi se sprečilo njihovo korišćenje za smrtonosno autonomno oružje i masovni domaći nadzor.

Kao odgovor na to, Antropik je proglašen rizikom za lanac snabdevanja, a predsednik Donald Tramp je naredio da sva vladina odeljenja prestanu da koriste njihovog robota za ćaskanje Klod (Claude). Antropik je osporio ovu oznaku na sudu.

Zaposleni u Alfabetu (Alphabet) reaguju na izveštaje da je Gugl blizu dogovora o uslovima sa Ministarstvom odbrane koji će omogućiti da se njegov model Gemini koristi u poverljivim operacijama bez formalnih zaštitnih mera koje je Antropik zahtevao.

"Ovo nije samo pitanje vojske, masovni nadzor pokretan veštačkom inteligencijom direktna je pretnja američkim građanskim slobodama", rekla je jedna osoba uključena u kampanju, koja je tražila da ostane anonimna. "Ovo nije nizak rizik i teorija; mi smo već u tim borbama. Vidimo da se AI koristi za podršku autoritarizmu u Kini."

Pismo Pičaju koordinisali su zaposleni u Dip majndu (DeepMind), Guglovoj laboratoriji za veštačku inteligenciju, rekla su dva izvora uključena u proces. Dve petine potpisnika rade u odeljenju za AI, sličan udeo je u Klaud jedinici, dok su ostali raspoređeni širom Alfabeta.

Više od 18 visokopozicioniranih zaposlenih, uključujući načelnike, direktore i potpredsednike, potpisalo je dokument, dodali su izvori. Oko dve trećine njih je odlučilo da se njihova imena objave, dok su ostali ostali anonimni.

Glavni naučnik Dip majnda Džef Din do sada je bio najglasniji rukovodilac po ovom pitanju. On je u februaru na mreži Iks objavio da "masovni nadzor krši Četvrti amandman i ima obeshrabrujući efekat na slobodu izražavanja". Dodao je da i dalje podržava obavezu iz 2018. godine o zabrani smrtonosnog autonomnog oružja.

Protest zaposlenih

Gugl se i ranije suočavao sa protestima protiv svojih vojnih veza. Godine 2018, nekoliko zaposlenih je dalo otkaz, a hiljade su potpisale peticiju protiv Projekta Mejven, koji je koristio AI za unapređenje napada dronovima. Gugl tada nije obnovio ugovor i obećao je da neće raditi na veštačkoj inteligenciji za oružje ili nadzor.

Međutim, prošle godine je tiho odustao od tog stava u ažuriranim Principima veštačke inteligencije, brišući formulacije kojima se obećavalo da se neće razvijati "oružje ili druge tehnologije čija je osnovna svrha ili primena nanošenje ili direktno olakšavanje povreda ljudima".

Suosnivač Demis Hasabis objasnio je tu odluku rekavši da se svet promenio otkako je Gugl kupio Dip majnd 2014. godine. Višestruki napredni modeli su sada široko dostupni i američke tehnološke kompanije imaju dužnost da pomognu zemlji da se odbrani.

"Crpimo veliku inspiraciju iz onoga što se ranije desilo sa protestom protiv Mejvena, kao i iz činjenice da mnogi visoki lideri dele ove stavove", rekla je druga osoba uključena u slanje pisma. "U Dip majndu postoji skoro potpuni konsens protiv ovog programa."

OpenAI se suočio sa oštrim reakcijama svojih istraživača nakon što je sklopio sopstveni ugovor sa vladom ubrzo nakon zabrane Antropika. Generalni direktor Sem Altman se kasnije izvinio, nazvavši svoje postupke "oportunističkim i nepromišljenim".

"Donošenje pogrešne odluke u ovom trenutku nanelo bi nepopravljivu štetu Guglovoj reputaciji, poslovanju i ulozi u svetu", zaključuje se u pismu. "Iz sopstvene istorije znamo da naši lideri mogu da donesu ispravne odluke, za nas same i za svet, kada su ulozi visoki."

(Ubrzanj.rs/FinancialTimes)