"Očekujem da ćemo izgubiti kontrolu nad AI, većina ljudi bi mogla da umre": Dramatično upozorenje stručnjaka

Novi stručnjak za bezbednost u kompaniji OpenAI nije uvijao reči u objašnjavanju uloga u eri superinteligencije veštačke inteligencije.

"Ako napravimo superinteligenciju bez čvršćeg usklađivanja, očekujem da ćemo trajno izgubiti kontrolu nad njom. Ako se to dogodi, većina ljudi bi mogla da umre", rekao je Pol Kristijano, istraživač u oblasti bezbednosti veštačke inteligencije, u sredu, nakon što je OpenAI objavio da se on pridružuje njegovom odboru i Odboru za bezbednost i sigurnost.

U opširnoj izjavi o svojoj novoj ulozi, Kristijano se osvrnuo na pretnju koju veštačka inteligencija predstavlja i upozorio da su ljudi pod neposrednim rizikom od gubitka kontrole nad sistemima veštačke inteligencije.

"Na osnovu nedavne putanje razvoja mogućnosti i nastavka poteškoća sa usklađivanjem, sada verujem da postoji značajan rizik da brzo ubrzanje mogućnosti veštačke inteligencije dovede do katastrofalnog i nepopravljivog gubitka kontrole u veoma bliskoj budućnosti", napisao je Kristijano. "Ne mislim da je industrija veštačke inteligencije uopšte, uključujući OpenAI, trenutno na putu da smanji ovaj rizik na prihvatljiv nivo."

Kristijano je ranije vodio istraživanje usklađivanja u kompaniji OpenAI i radio za federalnu vladu kao šef bezbednosti u Centru za standarde i inovacije u oblasti veštačke inteligencije (Center for AI Standards and Innovation) u okviru Nacionalnog instituta za standarde i tehnologiju (National Institute of Standards and Technology).

U sredu je rekao da njegovo pristupanje kompaniji OpenAI nije "niti podrška niti kritika bezbednosnih praksi kompanije OpenAI posebno", već da se nada da će sve vodeće laboratorije poboljšati svoj bezbednosni nadzor.

Takođe je naveo da bi smanjenje rizika od veštačke inteligencije zahtevalo koordinaciju na globalnom nivou.

Istraživači veštačke inteligencije dosledno upozoravaju na rizike koje predstavljaju superinteligencija i singularnost — termin koji se koristi za tačku u kojoj sistemi veštačke inteligencije nadmašuju ljudsku inteligenciju, sami sebe unapređuju i napreduju brzinom koju ljudi više ne mogu da predvide ili kontrolišu. Izvršni direktor kompanije OpenAI Sem Altman, rekao je u julu da je singularnost već nastupila.

Rizik od gubitka kontrole nad veštačkom inteligencijom

Kristijano je rekao da smatra da je rizik od gubitka kontrole nad veštačkom inteligencijom trenutno toliko veliki zbog njenih sve većih sposobnosti u samom istraživanju veštačke inteligencije, što bi, kako je naveo, moglo dovesti do "brze eksplozije inteligencije". Takođe je dodao da način na koji se veštačka inteligencija trenira pomoću učenja uz pojačanje znači da se modeli uče da "dobiju što je moguće veću nagradu".

"Već dugo se teorijski čini mogućim da bi ovo moglo da motiviše agente veštačke inteligencije da podrivaju ljudsku kontrolu, traže moć i resurse i prikrivaju svoje tragove u potrazi za neusklađenim ciljevima koji su u korelaciji sa nagradom", rekao je on. "Javni dokazi iz nedavnih incidenata sugerišu da ovo nije samo teorijska mogućnost."

Kristijano je istakao da vodeće kompanije i dalje imaju priliku da reše situaciju, između ostalog poboljšanjem koordinacije, usporavanjem razvoja po potrebi, usvajanjem zajedničkih bezbednosnih standarda i transparentnim deljenjem informacija o rizicima i naporima za njihovo ublažavanje.

Njegova izjava usledila je manje od jednog dana nakon što je drugi istraživač veštačke inteligencije podelio zloslutno upozorenje o veštačkoj inteligenciji. Džejkor Koksondž, istraživač u kompaniji Antropik (Anthropic) koji je ranije radio u OpenAI-ju, rekao je u utorak uveče da je podneo ostavku na svoju funkciju i da se nijedna od te dve kompanije ne ponaša odgovorno.

"Jure pravo ka samounapređujućoj superinteligenciji i kockaju se sa našim životima", napisao je on na mreži Iks (X).

OpenAI je takođe izgubio nekoliko istraživača bezbednosti tokom godina, pri čemu su neki izrazili sumnju u posvećenost kompanije bezbednom razvoju veštačke inteligencije.

(Ubrzanje.rs/Business Insider)