Treći stadijum: Glasine o kultu u kompaniji Anthropic - zaposleni navodno obožavaju Kloda kao boga
Sumirano
- Antropik zahteva od zaposlenih zakletvu na vernost bezbednosti AI i prolazak psihološkog profilisanja
- Glasine o "obožavanju" AI modela Klod među inženjerima Antropika
- Neki tehnološki lideri tvrde da rade na entitetima nalik Bogu, dok drugi kritikuju te tvrdnje
- Iscrpljujuća radna kultura u AI kompanijama sa dugim radnim satima i čestim otpuštanjima
Bauk svemoćnog velikog jezičkog modela koji vlada svojim inženjerima za veštačku inteligenciju i dalje je uveliko prisutan.
Preporučujemo
Čadež u Energy Netu: Domaće znanje iza više od 1.000 projekata i pet miliona kvadrata
Ko ima prednost? Automobili se približavaju raskrsnici: Da li znate pravilan redosled prolaska
Industrija je već imala priličan broj susreta sa zlokobnim kultnim ponašanjem, od suosnivača kompanije OpenAI Ilje Sutskevera, koji je naručivao drvene figure da predstavljaju "neusklađene" veštačke inteligencije, pa do ubilačke sekte koja je želela da spase svet od smrtonosne veštačke inteligencije.
Kako se ispostavilo, Antropik (Anthropic) Darija Amodeja očigledno nije ništa drugačiji. Samo zapošljavanje tamo zahteva od potencijalnih zaposlenih da se zakunu na vernost bezbednosti veštačke inteligencije i prođu test psihološkog profilisanja, navodi Informejšn (The Information).
A prema glasini koja, kako navodi Šon Tomas iz Spektejtora (The Spectator), ovih dana hara Silicijumskom dolinom, neki inženjeri Antropika idu toliko daleko da "obožavaju" AI model ove kompanije, Klod (Claude).
"Ako je to tačno, poklapa se sa starim naučnofantastičnim predviđanjem i sa onim što znamo o ljudskoj prirodi", napisao je Tomas. "Ako izgradimo superinteligenciju, prvo ćemo se zaljubiti u nju. Zatim ćemo je obožavati. Na kraju ćemo joj prinositi žrtve."
Već godinama tehnološki lideri u slabo prikrivenim terminima tvrde da rade na izgradnji entiteta nalik Bogu — "magične inteligencije na nebu", kako ju je još 2023. godine nazvao izvršni direktor kompanije OpenAI Sem Altman.
Neki startapi su ovo shvatili veoma bukvalno, kreirajući AI četbote koji tvrde da komuniciraju sa samim Bogom, poput "aplikacije za molitvu" pod nazivom Bajbl čet (Bible Chat), koja se reklamira kao "verska aplikacija broj jedan u svetu" sa "preko 40 miliona" hrišćanskih korisnika.
Tokom godina, razgovor se donekle promenio, pri čemu je izvršni direktor kompanije Meta Mark Zakerberg optužio rivale svoje kompanije da iznose takve tvrdnje bez osnova.
"Kao da pomalo misle da stvaraju Boga ili tako nešto i... to prosto — to nije ono što mi radimo", rekao je on jutjuberu Kejnu Sateru tokom razgovora 2024. godine.
Ali za one koji su skloni da vide duha u mašini, posledice uverenja da razgovaraju sa bogom mogu biti razorne, prerastajući u zablude u obliku AI psihoze koja ih može navesti da poveruju da su i sami proroci ili čak božanska figura poput samog Isusa.
Za mnoge zaposlene u vodećim laboratorijama za veštačku inteligenciju, to bi mogao biti oblik instinkta za preživljavanje. Kako je Bi-Bi-Si (BBC) izvestio prošlog meseca, neki zaposleni rade i do 90 sati nedeljno, što je "iscrpljujuća radna kultura" obeležena "nemilosrdnim" ocenjivanjem učinka i čestim otpuštanjima.
To je uverenje zbog kojeg neki tvrde da bi veštačka inteligencija na kraju mogla da se pretvori iz dobronamernog božanstva u vesnika smrti, pri čemu bi odmetnuti agenti pokrenuli propast čovečanstva. Na mnogo načina, to je prirodan zaključak egzistencijalnog straha podstaknutog njihovom verom u svemoćni entitet u nastajanju.
Ipak, njihovi pokušaji da nam uteraju strah od Boga u kosti trebalo bi da svakoga učine skeptičnim prema tvrdnjama opsesivnih tehnoloških lidera, posebno s obzirom na ogromne finansijske podsticaje iza kulisa.
I OpenAI i Antropik teže ka tome da izađu na berzu pre kraja godine. A mnogo se može dobiti uveravanjem investitora da ste upravo vi prizivač moćnije duhovne sile od vaših konkurenata — čak i ako je realnost daleko prizemnija od toga.
(Ubrzanje.rs/Futurism)