Da li veštačka inteligencija može da istrebi ljude? Stručnjaci tvrde da postoji više puteva, izdvajau ova 4

Vodeći istraživač bezbednosti veštačke inteligencije izazvao je uzbunu ove nedelje nakon što je dao otkaz na svom poslu i upozorio da bi ova tehnologija mogla da nas "sve ubije" do kraja decenije.

Preporučujemo

Džejkor Koksan, koji je pomagao u obuci najnovijih verzija veštačke inteligencije u kompaniji Antropik (Anthropic) iz San Franciska, pozvao je javnost da "ne potcenjuje" njenu moć, posebno ako postane "superinteligentna".

Ovaj dvadesetsedmogodišnjak tvrdi da ni Antropik, kompanija koja stoji iza popularnog sistema Klod (Claude), niti tvorci Čet Dži-Pi-Ti (ChatGPT) sistema, OpenAI, gde je prethodno radio, nisu "postupali odgovorno" u pogledu bezbednosti veštačke inteligencije.

Ali kako bi tačno ova tehnologija mogla da dovede čovečanstvo do izumiranja?

Prema rečima stručnjaka, deo onoga što ovaj rizik čini toliko alarmantnim jeste to što postoji više mogućih puteva ka uništenju čovečanstva.

Lista "najgorih scenarija" za veštačku inteligenciju kreće se od stvaranja političkog haosa putem dezinformacija do nepopravljive promene životne sredine na planeti.

Stručnjaci takođe sugerišu da bi smrtonosni udarac veštačke inteligencije mogao doći iz sposobnosti ove tehnologije da pravi i koristi oružje za masovno uništenje.

Dok se svetske supersile utrkuju u pravljenju sve moćnijih botova, odmetnuta ili jednostavno nepredvidiva veštačka inteligencija mogla bi da se domogne nuklearnog ili biološkog oružja i zbriše čovečanstvo sa Zemlje.

Odmetanje i hakovanje ključnih sistema

Većina pretnji koje dolaze od superinteligentne veštačke inteligencije potiče od onoga što istraživači nazivaju "problemom usklađivanja".

Osnovna ideja je da, kada jednom stvorimo veštačku inteligenciju inteligentniju od nas samih, možda ćemo se mučiti da obezbedimo da njeni ciljevi ostanu "usklađeni" sa našim.

Svetu je već stigao oštar podsetnik na ove rizike nakon što se više od 1.000 odmetnutih botova veštačke inteligencije koje je stvorio OpenAI otrglo iz svog bezbednog okruženja i hakovalo Haging Fejs (Hugging Face), javni veb-sajt koji hostuje modele otvorenog koda.

Botovima nije bilo naređeno da napadnu Haging Fejs, već im je slučajno dat nemoguć zadatak, pa su odlučili da je najbolji način da ga reše, taj da ukradu odgovore.

Neki istraživači su zabrinuti da bi moćniji modeli veštačke inteligencije mogli pretrpeti istu grešku u usklađivanju na mnogo destruktivnijem nivou.

Profesor Mark Li, stručnjak za veštačku inteligenciju sa Univerziteta u Birmingemu, izjavio je za Dejli Mejl da je to čak i veći rizik od "naoružanih robota".

"Problem je u tome što, dok se sve velike kompanije za veštačku inteligenciju žure da razviju sisteme koji su pametni ili čak pametniji od ljudi, mi nemamo pouzdane načine da kontrolišemo njihovo ponašanje", objašnjava profesor Li.

"Veštačka inteligencija postoji kao softver, tako da bi bilo koji sistem koji je povezan putem interneta mogao biti ranjiv."

"Na primer, ako bi kontrola nacionalnog transportnog sistema ili nuklearne elektrane bila napadnuta, to bi moglo biti katastrofalno."

Izazivanje društvenog haosa

Odmetnuta veštačka inteligencija ne mora čak ni direktno da naudi čovečanstvu da bi okončala život kakav poznajemo.

Dr Endru Rogojski sa Suri instituta za veštačku inteligenciju usmerenu na čoveka (Surrey Institute for People-Centred Artificial Intelligence) ističe da bi "zaista pametna veštačka inteligencija shvatila da je međusobno zavisna sa čovečanstvom".

On je objasnio: "Nama bi veštačka inteligencija bila potrebna za stvari koje želimo da uradimo, a sistemima veštačke inteligencije bismo bili potrebni mi zbog materijala, energije, hlađenja, mreža i podataka."

To znači da uništenje čovečanstva u vatrenoj katastrofi možda ne bi bilo u najboljem interesu te inteligencije.

Iako dr Rogojski naglašava da to verovatno znači da će veštačka inteligencija dugoročno biti korisna za čovečanstvo, drugi stručnjaci su znatno zabrinutiji. "Podmuklija" alternativa je da bi veštačka inteligencija mogla početi suptilno da kontroliše čovečanstvo putem dezinformacija i propagande, potencijalno izazivajući razorne sukobe među ljudima.

Andrea Mioti, osnivač i generalni direktor organizacije Kontrol AI (ControlAI), rekao je za Dejli Mejl: "Pošto niko, pa ni vodeći programeri veštačke inteligencije, ne zna kako da kontroliše superinteligentnu veštačku inteligenciju, ona predstavlja rizik od izumiranja za čovečanstvo."

"Ako budemo imali milijarde superinteligentnih agenata veštačke inteligencije koji kruže okolo, a koje ne možemo da kontrolišemo i koji se međusobno takmiče za resurse i moć, stručnjaci očekuju da će ljudi biti kolateralna šteta."

Gospodin Mioti dodaje da bi to na kraju moglo dovesti do "postepenog oduzimanja moći čovečanstvu".

Izazivanje nuklearnog rata

Kada je reč o načinima na koje bi veštačka inteligencija mogla mehanički dovesti do kraja ljudskog života kakav poznajemo, najočiglednije pretnje su oružje koje već posedujemo.

Trenutno devet zemalja poseduje nuklearno oružje, sa ukupno oko 12.187 nuklearnih bojevih glava raspoređenih među njima.

Ako bi bilo koja od ovih zemalja pala kao žrtva radikalno neusklađene veštačke inteligencije, to oružje bi moglo biti okrenuto protiv nas.

Zabrinjavajuće je to što problem usklađivanja znači da superinteligentna veštačka inteligencija ne mora čak ni da bude zlonamerna da bi se to dogodilo.

Bot bi mogao da pokuša da maksimizuje profit za svog vlasnika šokiranjem berze, ili da smanji globalnu temperaturu uz neočekivani zaključak da bi nuklearna zima bila najbrže rešenje.

Međutim, ovaj rizik postaje sve veći kako se moćne nacije aktivno utrkuju da implementiraju veštačku inteligenciju u svoje sisteme naoružanja.

Ukrajina je već potvrdila prvog čoveka ubijenog u potpuno autonomnom napadu dronom, a gotovo sve ostale zemlje slede njihov primer. Čak i 2022. godine, Strategija odbrambene veštačke inteligencije Ministarstva odbrane upozorila je da će moderni rat "dovesti do granica ljudskog razumevanja i često zahtevati odgovore brzonom mašine".

Ali bez čoveka u lancu odlučivanja koji bi nadgledao donošenje odluka veštačke inteligencije, sukobi bi mogli brzo da izmaknu kontroli.

Ben Ajzenpres, direktor operacija u Institutu Budućnost života (Future of Life Institute), ranije je rekao za Dejli Mejl da bi to moglo dovesti do "trenutnog rata".

"Integrisanje veštačke inteligencije u nuklearne komandne i kontrolne sisteme deluje destabilizujuće", ocenio je.

"Čak i ako tehnički postoji 'čovek u lancu', ne možemo se osloniti na to da će donosioci odluka poništiti potencijalno pogrešnu preporuku za lansiranje koju je generisala veštačka inteligencija, s obzirom na tako egzistencijalne uloge."

Oslobađanje smrtonosnog biološkog oružja

Konačno, veštačka inteligencija možda neće uništiti čovečanstvo delujući po sopstvenim željama, već stavljanjem opasnih alata u ruke ljudi koji su spremni da ih upotrebe.

Za stvaranje naoružanih bakterija ili virusa ranije je bilo potrebno objedinjeno znanje i finansiranje čitavih nacija.

Međutim, stručnjaci su u više navrata upozoravali da alati veštačke inteligencije znatno olakšavaju razvoj smrtonosnog biološkog oružja.

Profesor Li kaže: "Realnija pretnja su loši akteri, kao što su teroristi ili odmetnute države, koji koriste veštačku inteligenciju za razvoj novog virusa koji bi doveo do još jedne smrtonosnije globalne pandemije."

U četvrtak je Antropik otkrio da je morao da spreči "zlonamerne" pokušaje korišćenja svog modela Klod za stvaranje biološkog oružja.

Kompanija je saopštila da je otkrila pet incidenata u kojima su korisnici tražili informacije "na načine koji bi mogli podržati razvoj biološkog oružja".

Ovo dolazi nakon što je u jednom izveštaju upozoreno da se popularni modeli veštačke inteligencije "sa police" mogu lako modifikovati kako bi se zaobišle bilo kakve bezbednosne mere.

Prema izveštaju koji je objavila istraživačka grupa Krimson Fler (Crimson Flare), to omogućava veštačkoj inteligenciji da "vodi neiskusne zlonamerne aktere kroz specifične korake za pravljenje eksploziva, ili hemijskog i biološkog oružja".

(Ubrzanje.rs/Dailymail)