Tri AI giganta tajno pregovaraju o samoregulaciji veštačke inteligencije: Ovo su detalji plana

Antropik (Anthropic), OpenAI i Gugl (Google) vodili su razgovore o zajedničkom radu na stvaranju tela za standarde u industriji veštačke inteligencije, rekli su ljudi upoznati sa ovim pitanjem, i pre nego što je glavni izvršni direktor Antropika Dario Amodei u subotu pozvao kompanije koje se bave veštačkom inteligencijom da se koordinišu oko testiranja i revizije ove tehnologije.

Preporučujemo

Glavni izvršni direktor kompanije OpenAI Sem Altman je sa svoje strane rekao zaposlenima na sastanku cele kompanije ranije ove nedelje da podržava organizaciju za testiranje i reviziju u industriji veštačke inteligencije, ali smatra da bi vodeće laboratorije za veštačku inteligenciju morale same da stvore telo za standarde, bez podrške vlade SAD, navodi osoba upoznata sa tim komentarima.

Ta vrsta samoregulacije industrije bila je deo šireg predloga koji je Amodei objavio u subotu u cilju usporavanja razvoja veštačke inteligencije i uspostavljanja nezavisnog nadzora usled rastućih rizika koje predstavlja sve moćnija veštačka inteligencija. Amodei je rekao da kompanije mogu nastaviti sa dobrovoljnim bezbednosnim standardima dok vlada razrađuje regulativu za veštačku inteligenciju, pri čemu bi vlada potencijalno mogla da omogući ili posreduje u razgovorima unutar industrije.

Amodeijeva objava na Iksu (X) brzo je dobila podršku nekoliko drugih tehnoloških lidera, uključujući Altmana, koji je napisao da je usporavanje razvoja najsavremenije veštačke inteligencije bilo tema razgovora u njegovoj kompaniji poslednjih nedelja. Demis Hasabis, koji je nedavno podneo ostavku na mesto glavnog izvršnog direktora kompanije Gugl Dipmajnd (Google DeepMind), rekao je da je predlog u celini korak u pravom smeru, iako neke detalje "treba razraditi".

Glavni izvršni direktor kompanije SpejsIks (SpaceX) Ilon Mask takođe je podržao Amodeijev plan.

Ideja o samoregulatornoj organizaciji za veštačku inteligenciju deo je javne debate već nekoliko meseci. U julu je Hasabis objavio esej u kom je izneo predlog za samoregulatorno telo oblikovano po uzoru na Regulatorno telo za finansijsku industriju — FINRA (Financial Industry Regulatory Authority), koje vrši nadzor nad američkim brokerima-dilerima i stručnjacima za hartije od vrednosti.

Međutim, obim u kom su kompanije već počele da rade zajedno na uspostavljanju industrijskih standarda nije ranije izašao u javnost. Od jula, radna grupa predstavnika ispod nivoa glavnih izvršnih direktora iz Gugla, Antropika i kompanije OpenAI redovno se sastaje povodom predloga o telu za standarde, prema rečima ljudi upoznatih sa ovim pitanjem.

Nacrt izvršne uredbe koji je kružio u Beloj kući stvorio bi takvu organizaciju, ali su ti napori zastali krajem leta nakon što nisu uspeli da dobiju dovoljnu podršku unutar Trampove administracije, ranije je preneo The Information.

Bivši car Bele kuće za veštačku inteligenciju Dejvid Saks bio je glasni kritičar stvaranja tela za veštačku inteligenciju nalik FINRA-i, protiveći se umešanosti vlade. Glavni izvršni direktor kompanije Meta Platforme (Meta Platforms) Mark Zakerberg takođe je izrazio zabrinutost povodom planova za nacionalnog regulatora veštačke inteligencije u avgustovskom telefonskom razgovoru sa predsednikom Donaldom Trampom, preneo je Politiko (Politico).

Na ovonedeljnom skupu zaposlenih, Altman je rekao da je, iako je bio optimističan da će vlada podržati telo za standarde, u industriji još uvek nedovoljno konsenzusa, a neke kompanije se protive toj ideji, navodi osoba upoznata sa komentarima. Dodao je da bi najbolji put napred bio da pokušaju da urade nešto sa drugim laboratorijama. Altman je zaposlenima na istom skupu rekao i da bi OpenAI mogao da uspori svoj tempo razvoja, preneo je Bloomberg (Bloomberg).

Sastanci radne grupe između Antropika, kompanije OpenAI i Gugla o telu za standarde pod vođstvom industrije, za koje izvori kažu da su u toku, ukazuju na želju za delovanjem među ove tri laboratorije mimo javnih komentara i predloga njihovih direktora koji privlače veliku pažnju. Grupa se sastala nedavno, tokom protekle nedelje, rekla je jedna od osoba.

Nije jasno kakav je stav Mete po ovom pitanju. U subotu je Aleksandr Vang, glavni direktor kompanije za veštačku inteligenciju, napisao na Iksu da je "usklađivanje fundamentalno za pružanje lične superinteligencije svima", misleći na ideju da se ponašanje sistema veštačke inteligencije pridržava namere datih uputstava, iako nije precizirao da li podržava ili se protivi Amodeijevom predlogu.

Sopstveni zaposleni Antropika skrenuli su novu pažnju na zabrinutost zbog potencijalnih rizika od sve moćnije veštačke inteligencije objavama koje su proteklih dana postale viralne na Iksu. Jedan istraživač Antropika rekao je da napušta kompaniju jer ni ona ni OpenAI ne "postupaju odgovorno", dok je trenutni zaposleni Antropika rekao da kompanija iskreno veruje da bi veštačka inteligencija mogla da predstavlja egzistencijalnu pretnju po čovečanstvo.

U subotu je Amodei predložio da svaka vodeća kompanija za veštačku inteligenciju treba da omogući spoljnim proceniteljima, kao što je Istraživanje evaluacije modela i pretnji — METR (Model Evaluation and Threat Research), isti pristup svojoj tehnologiji kakav imaju zaposleni, i rekao je da se Antropik obavezuje na taj korak. Takođe je pozvao vladu da omogući kompanijama za veštačku inteligenciju da se koordinišu oko bezbednosti bez kršenja antimonopolskih zakona, rekavši da bi vlada trebalo da izda "usko izuzeće" za određene razgovore.

Saks je na Iksu napisao da kompanije za veštačku inteligenciju treba da nastave sa bezbednosnim naporima i da im nije potrebno izuzeće od antimonopolskih pravila da bi se koordinisale. Međutim, doveo je u pitanje da li je usporavanje razvoja "čisto altruističko", napominjući da rizici od odgovornosti za proizvod već pružaju finansijski podsticaj da se spreči da veštačka inteligencija nanese štetu.

Neki u industriji veštačke inteligencije bili su kritičniji prema Amodeijevom planu. Glavni izvršni direktor kompanije Kohere (Cohere) Ejdan Gomez izrazio je zabrinutost u objavi na Iksu povodom toga što se najveće kompanije za veštačku inteligenciju koordinišu oko pravila koja bi mogla da ograniče manje rivale, napisavši: "Sjajne ideje kartela."

(Ubrzanje.rs/The Information)