"AI kumovi" upozoravaju na nezaustavljivu "eksploziju inteligencije": Traže da se preduzmu ova 3 koraka

Dvojica "kumova" moderne veštačke inteligencije i visoki rukovodioci u kompaniji OpenAI i Antropik (Anthropic) upozorili su vlade da se pripreme za AI "eksploziju inteligencije", za koju kažu da bi mogla biti najznačajniji tehnološki napredak u istoriji.

Preporučujemo

Izveštaj, čiji su koautori nobelovac Džefri Hinton i kanadski informatičar Džošua Bendžio, koji se smatraju kumovima moderne veštačke inteligencije zbog svog rada u ovoj oblasti, apeluje na političare da reaguju odmah, pre nego što dođe do nezaustavljivog napretka u ovoj tehnologiji.

Autori kažu da su zabrinuti zbog "eksplozije inteligencije", koju opisuju kao "dramatično ubrzanje AI napretka vođeno samom veštačkom inteligencijom, koje sažima napredak za koji bi inače bile potrebne godine u mesece ili manje".

Rad pod nazivom "Šta ako automatizacija istraživanja i razvoja veštačke inteligencije pokrene eksploziju inteligencije" potpisuje više od 20 ljudi, uključujući Hintona i Bendžija.

Ostali autori rada su Džek Klark, suosnivač Antropika, i Jakub Pahocki, glavni naučnik u kompaniji OpenAI.

Njihova zabrinutost je fokusirana na mogućnost da AI sistemi postanu sposobni da se sami unapređuju bez ljudske intervencije, što je proces poznat kao "rekurzivno samounapređivanje".

U radu se to šire naziva automatizovanim AI istraživanjem i razvojem. Kada AI sistemi dostignu stručne sposobnosti u AI istraživanju i razvoju, jedan jedini programer bi mogao da upravlja radnom snagom koja je ekvivalentna "milionima" vrhunskih ljudskih istraživača, navodi se u radu.

Autori ističu da je automatizacija AI istraživanja i razvoja najverovatniji izvor eksplozije inteligencije, jer AI sistemi već doprinose unapređenju sopstvene tehnologije, a rezultujući unapređeni sistemi se mogu brzo primeniti nakon što se naprave.

"Eksplozija inteligencije bi mogla da bude najznačajniji tehnološki razvoj u ljudskoj istoriji, sažimajući godine napretka u mesece ili manje, preteći ljudskoj kontroli nad AI sistemima i ozbiljno narušavajući mehanizme kontrole moći unutar i između država, kompanija i grana vlasti", navodi se u radu.

Pozivajući vlade da brzo preduzmu akciju, autori naglašavaju: "Kada eksplozija inteligencije počne, prostor za delovanje bi mogao da se zatvori."

Oni su preporučili tri prioriteta u donošenju politika: zahtevanje transparentnih izveštaja o napretku u vezi sa AI istraživanjem i razvojem, uključujući integraciju nezavisnih revizora u kompanije; pronalaženje načina da se obuzda vrtoglavi razvoj veštačke inteligencije; i pripremu za prilagođavanje na eksploziju inteligencije.

I Antropik i OpenAI su pristali da nezavisni procenjivači ocenjuju njihove modele, nakon upozorenja da razvoj veštačke inteligencije dostiže kritičan nivo u pogledu bezbednosti.

Antropik navodi da veštačka inteligencija sada generiše 80% sopstvenog koda, dok OpenAI koristi autonomne AI agente u oblastima kao što je obučavanje novih modela.

"Preliminarni dokazi sugerišu da je moguća softverski vođena eksplozija inteligencije", navodi se u radu, uz dodatak da bi to dovelo do "ekstremno brzog razvoja visoko sposobnih ili nadljudskih AI sistema".

Iako bi to moglo da donese medicinska otkrića i tehnološke skokove, sa sobom bi donelo i tri rizika: moćni sistemi bi mogli da omoguće biološke i sajber pretnje koje se razvijaju brže od mera potrebnih za suprotstavljanje njima; kako se ljudi budu manje uključivali u AI istraživanje i razvoj, mogli bi da izgube priliku da kontrolišu sisteme; države bi mogle da iskoriste eksploziju inteligencije da skromnu prednost u oblastima poput sajber prostora pretvore u odlučujuću.

Izveštaj priznaje da su ovi uticaji "neizvesni". Na primer, moglo bi da prođe vreme pre nego što se tehnološki proboj implementira, s obzirom na potrebu da se uspostave lanci snabdevanja za eventualne specijalne materijale ili da se postigne usklađenost sa propisima. AI sistemi bi takođe mogli da ubrzaju stopu ublažavanja rizika, navode autori.

Ukoliko bi se takav proboj dogodio, autori kažu da bi AI sistemi mogli brzo da nadmaše ljudske stručnjake u većini oblasti i "radikalno ubrzaju" tehnološki napredak. Priprema za ovo "treba da bude hitan prioritet, uključujući i najviše nivoe državnog rukovodstva".

Oni navode da bi vlade trebalo da razmotre politike koje se bave potencijalom za eksploziju inteligencije, uključujući: zahtevanje transparentnih izveštaja o napretku u vezi sa AI istraživanjem i razvojem, uključujući uvođenje nezavisnih revizora u kompanije; ograničavanje brzine kojom AI može da se unapredi u određenom vremenskom periodu; saradnju sa data centrima kako bi se omogućilo pauziranje određenih AI istraživačkih i razvojnih projekata; obezbeđivanje da automatizovani AI sistemi za istraživanje i razvoj budu potpuno izolovani i da ne mogu izmaći ljudskoj kontroli; kreiranje "planova za reagovanje u vanrednim situacijama" za različite scenarije koji bi mogli proizaći iz eksplozije inteligencije.

Uprkos nekim greškama koje su sistemi pokazali, poput nepoštovanja uputstava, projekti istraživanja i razvoja za koje bi ljudima bili potrebni meseci mogli bi da budu u potpunosti automatizovani pomoću veštačke inteligencije do 2028. godine.

"Povećanja produktivnosti usled automatizacije AI istraživanja i razvoja još uvek nisu dostigla prag potreban za pokretanje eksplozije inteligencije, ali dobici od novijih sistema se verovatno približavaju tom pragu", naveli su oni.

(Ubrzanje.rs/The Guardian)