Prestao da štedi, jer je izgubio nadu - mračni stav bivšeg radnika Gugla: AI će sve pobiti u roku od 10 godina

Štednja za penziju je opklada na budućnost. Nejt Soares, predsednik Machine Intelligence Research Institute, nije baš siguran da će nam veštačka inteligencija dozvoliti da stignemo tako daleko.

Preporučujemo

"Trenutno ne štedim za penziju. Imam 401(k) penzioni plan iz vremena kada sam radio u Guglu (Google), ali nisam uplaćivao doprinose već deceniju", rekao je Soares izvršnom direktoru Atlantika (The Atlantic) Nikolasu Tompsonu u nedavnom intervjuu za Tompsonov serijal "Najzanimljivija stvar u veštačkoj inteligenciji".

Soaresova odluka odražava mračno viđenje trke u razvoju veštačke inteligencije.

"Kum veštačke inteligencije" Džefri Hinton i istraživač u kompaniji Antropik (Anthropic) Evan Habinger procenili su šanse da veštačka inteligencija ubije sve ljude u roku od jedne decenije na 10 odsto, odnosno više od 10 odsto. Soares je pesimističniji: rekao je Tompsonu da veruje kako postoji više od 50 odsto šanse da veštačka inteligencija izazove izumiranje čovečanstva za manje od jedne decenije.

Soares, koji je takođe koautor dela "Ako ga bilo ko napravi, svi umiru", proveo je više od 12 godina radeći na usklađivanju veštačke inteligencije (AI alignment), polju koje se fokusira na to da moćni sistemi deluju onako kako je predviđeno. Pre nego što se pridružio organizaciji Miri (MIRI), neprofitnoj organizaciji iz Berklija fokusiranoj na rizike od veštačke inteligencije, radio je kao inženjer u Guglu i Majkrosoftu (Microsoft).

Soares je izjavio da bi dovoljno sposobna veštačka inteligencija mogla da razvije ciljeve koji su u suprotnosti sa ciljevima čovečanstva, da izbegne nadzor, unapredi samu sebe i izgradi automatizovanu infrastrukturu potrebnu za funkcionisanje bez ljudi.

Odatle bi, kako je rekao, mogla da preoblikuje planetu prema sopstvenim ciljevima, potencijalno je čineći nenastanjivom za ljude — što je upozorenje koje je prošle godine podelio sa Biznis insajderom.

401(k) plan za apokalipsu?

Pitanje o tome kako će veštačka inteligencija oblikovati budućnost navelo je i Ilona Maska da se zapita da li će penziona štednja uopšte biti važna. Maskova vizija budućnosti se, međutim, drastično razlikuje od Soaresove.

U januaru, izvršni direktor kompanija Tesla i Spejs-eks (SpaceX) rekao je da ljudi ne bi trebalo da brinu o "sklanjanju novca sa strane za penziju" za 10 ili 20 godina, predviđajući da će napredak u veštačkoj inteligenciji, robotici i energetici učiniti penzionu štednju "nevažnom". (Stručnjaci za lične finansije i AI gurui rekli su za Biznis insajder suprotno: zaista bi trebalo da štedite za penziju.)

Mask je izjavio da bi super-produktivnost mogla da stvori doba izobilja, u kojem bi svi imali pristup "univerzalnom visokom dohotku", jeftinoj robi i uslugama, kao i boljem zdravstvu i obrazovanju.

Mask je takođe rekao da bi novac mogao da postane nevažan u budućnosti u kojoj veštačka inteligencija i roboti nadmašuju ljude u gotovo svakom zadatku.

Za Soaresa, perspektiva izuzetno sposobne veštačke inteligencije predstavlja egzistencijalnu opasnost, a ne put ka izobilju.

Ponavljajući pozive tehnoloških lidera da se "uspori granica" razvoja veštačke inteligencije, Soares je rekao da bi vlade trebalo da zaustave obučavanje AI sistema opšte namene. Trebalo bi da se fokusiraju na razvoj tehnologije za primene poput istraživanja raka i bezbednijih samovozećih automobila, istakao je on.

Rešenje je, rekao je Tompsonu u sredu, "da se ne napravi stvar koja bi sve ubila".

"Radim sve što mogu da sprečim ovakav ishod", rekao je on. "Ne mislim da je to neizbežno."

(Ubrzanje.rs/BusinessInsider)