Bivši šef Google o budućnosti AI: "Znate li šta bi trebalo da uradimo? Da je isključimo"

"Isključite je." To je bio direktan odgovor bivšeg izvršnog direktora Gugla (Google) Erika Šmita na pitanje o budućnosti u kojoj bi sistemi veštačke inteligencije postali toliko napredni da ljudi više ne bi mogli da razumeju šta rade.

Šmit ističe tri ključna pravca razvoja koji već menjaju AI: znatno veće tzv. kontekstualne prozore, AI agente i sisteme koji tekstualna uputstva pretvaraju u funkcionalan softver. Smatra da bi te promene mogle da omoguće veštačkoj inteligenciji da prestane samo da odgovara na pitanja i počne da rešava izuzetno složene zadatke.

Očekuje da će za pet godina AI sistemi moći da obrađuju "recepte" od 1.000 koraka za rešavanje problema u nauci, medicini, istraživanju materijala i klimatskim promenama, piše Tajms of Indija (Times of India).

"U roku od pet godina AI bi mogla da obrađuje beskonačan kontekst, koristi logičko zaključivanje za rešenja od 1.000 koraka i upravlja milionima agenata koji rade zajedno. Vremenom će razviti sopstveni jezik i više nećemo razumeti šta rade", rekao je Šmit.

Svoju zabrinutost pojasnio je primerom recepta. AI bi mogla da ponudi jedan korak, dobije potvrdu da je završen, a zatim odredi šta treba uraditi dalje. Takav način zaključivanja, smatra Šmit, vremenom bi mogao da omogući sistemima da prolaze kroz hiljade koraka kako bi rešili složene naučne probleme.

Druga velika promena biće, prema njegovim rečima, uspon AI agenata. Reč je o specijalizovanim sistemima koji mogu da uče o određenoj temi, razvijaju ideje i potencijalno ih testiraju.

Na primer, AI agent bi mogao da proučava hemiju, postavlja hipoteze, sprovodi laboratorijske eksperimente i koristi rezultate za nadogradnju sopstvenog znanja. Šmit očekuje da bi vremenom mogli da se pojave milioni takvih agenata, kao i platforme putem kojih bi ljudi mogli da ih koriste za različite zadatke.

Treći pravac razvoja Šmit naziva "tekstualnom akcijom". Umesto pisanja koda, korisnici bi jednostavno opisali šta žele da softver radi, a AI bi to pretvorila u funkcionalan program. Kao primer područja u kojem su AI sistemi već veoma sposobni, naveo je programske jezike poput Pajtona (Python).

Šmit smatra da bi kombinacija velikih kontekstualnih prozora, AI agenata i programiranja uz pomoć veštačke inteligencije mogla da omogući različitim AI sistemima da rade zajedno. Tada bi, prema njegovom scenariju, mogli da razviju i sopstveni jezik.

"U jednom trenutku ovi sistemi postaće dovoljno moćni da ćete moći da uzmete agente, a oni će početi da rade zajedno. Znate li šta bi trebalo da uradimo? Da je isključimo", rekao je.

Njegovo upozorenje dolazi u vreme sve većih rasprava o rizicima razvoja napredne veštačke inteligencije. Džejkob Kokson, istraživač koji je radio na razvoju modela u kompanijama OpenAI i Antropik (Anthropic), nedavno je podneo ostavku, upozorivši na, kako je naveo, nekontrolisanu trku ka superinteligenciji.

Slična upozorenja dolaze i iz samih AI kompanija. Stručnjak za bezbednost iz Antropika Evan Habinger procenio je da postoji više od 10 odsto šanse da bi AI u narednih deset godina mogla da dovede do uništenja čovečanstva. Šef Entropika Dario Amodei takođe je pozvao na usporavanje razvoja, dok su njegov apel podržali Sem Altman iz kompanije OpenAI i Ilon Mask.

Amodei je upozorio i na takozvano rekurzivno samounapređivanje – proces u kojem AI može da piše i testira sopstveni kod i ubrzava razvoj svojih moćnijih naslednika.

Ipak, među stručnjacima nema saglasnosti o tome koliko su takvi scenariji realni. Dok jedni upozoravaju na ozbiljne rizike autonomnih sistema, drugi smatraju da tehnološke kompanije preterivanjem o opasnostima možda pokušavaju da opravdaju strožu regulaciju i osiguraju prednost nad manjim konkurentima.

Ključni rizik, upozoravaju pojedini stručnjaci, možda nije AI nalik "Terminatoru", već autonomni agenti koji kroz niz nekontrolisanih koraka zaobilaze ljudski nadzor ili postaju moćno oružje u rukama zlonamernih aktera.

(Ubrzanje.rs/Biznis.ba)