Anthropic zaposlio stručnjaka koji istražuje posledice AI: Ovaj apokaliptični scenario mu je prihvatljiv

Od svih velikih igrača u oblasti veštačke inteligencije, Antropik (Anthropic) je onaj koji najviše voli da širi apokaliptične prognoze o veštačkoj inteligenciji, naravno, zato što je i najviše zabrinut za njenu bezbednost, piše američki portal Futurism.

Zato nikada nećete pogoditi u kakve uvrnute stvari veruje njihov novozaposleni ekonomista Čed Džons, nastavlja Futurism ironičnim tonom.

Kako je Fajnenšal tajms nedavno istakao, Džons, dugogodišnji profesor ekonomije na Stenfordu (Stanford), jednom je napisao rad u kojem je vagao šta bi bio prihvatljiv nivo rizika od istrebljenja čovečanstva usled veštačke inteligencije, naspram potencijalnih koristi koje bi ona donela za ekonomski rast.

"Podsetimo se da bismo se suočili sa stalnom verovatnoćom egzistencijalnog rizika od 1 odsto godišnje tokom 40 godina, tako da je verovatnoća da preživimo ovu eksploziju veštačke inteligencije eksp (−,01 × 40) ≈ 0,67", napisao je Džons.

"Drugim rečima, uz logaritamsku funkciju korisnosti, optimalno je prihvatiti šansu od 1 prema 3 za okončanje ljudskog postojanja u zamenu za šansu od 2/3 za dramatično podizanje životnog standarda za 55 puta."

Prevedeno na običan jezik: igranje sa vatrom koja može istrebiti čovečanstvo je u redu — što je šansa od 33 odsto da nas sve pobije, prema Džonsovim sopstvenim proračunima — jer bi veštačka inteligencija mogla magično da pokrene ekonomski bum zbog kojeg bi svi živeli u prelepim višespratnicama na solarni pogon.

Ne misle svi da je ovo "optimalan" rizik koji treba preuzeti.

"Ovo nije poker gde puštate da vas matematika vodi, jer čak i ako sada izgubite na odluci koja ima pozitivan očekivani ishod, to se na duge staze isplati", besneo je jedan korisnik na Reditu (Reddit).

"Okončanje ljudskog postojanja zahteva malo više diskrecije", napisao je.

Koliko god Džonsov stav izgledao upitno, on će se savršeno uklopiti u Antropik. Javna drama o potencijalnim posledicama veštačke inteligencije je modus operandi ove kompanije, što joj omogućava da zadrži moralnu nadmoć nad svojim konkurentima, ocenjuje se u tekstu.

Iako Antropik vrlo verovatno jeste posvećen bezbednosti — što s pravom možete dovesti u pitanje iz razloga kao što je korišćenje njihove veštačke inteligencije Klod (Claude) za odabir meta za napade u Iranu, uprkos javnoj raspravi Antropika sa Pentagonom oko bezbednog uvođenja njihove tehnologije — ova taktika ima efekat preuveličavanja mogućnosti veštačke inteligencije.

Zabrinutost oko toga kako će veštačka inteligencija uništiti svet zasnovana je na pretpostavci da će veštačka inteligencija biti, ili da već jeste, dovoljno moćna ili uticajna da se to zaista i dogodi.

(Ubrzanje.rs/Futurism)