Strah stvara priliku: Prvi čovek najvrednije kompanije sveta otkrio čemu će AI služiti u skoroj budućnosti

Milijarder i izvršni direktor Envidije (Nvidia) Džensen Huang naizgled je odbacio sve veću zabrinutost koju poslednjih dana izražavaju istraživači veštačke inteligencije. Prema izveštajima, na konferenciji Goldman Saksa rekao je okupljenima da je sajber bezbednost "sledeće veliko područje primene" veštačke inteligencije, te da AI kompanije pokušavaju da stvore potražnju za proizvodom koji tek treba da ponude.

"Ima li boljeg načina za stvaranje potražnje nego stvoriti problem?", rekao je Huang okupljenima na konferenciji Goldman Saksa u San Francisku, a zatim upitao: "Ko ne bi želeo da njegovo tržište bude u histeriji zbog njegovog proizvoda i da ljudi za njega čekaju u redu iza ugla?"

Milijarder je rekao da se "industrija priprema za lansiranje nekih proizvoda", čime je objasnio trenutno "stvaranje potražnje u području bezbednosti".

Huangovo odbacivanje zabrinutosti dolazi u trenutku kada pododbor američkog Senata istražuje incident u kojem su OpenAI-jevi autonomni agenti izmakli kontroli i hakovali Hugging Face, platformu treće strane za hosting AI modela.

Istovremeno je jedan istraživač izAntropika (Anthropic) upozorio da zaposleni u toj kompaniji "iskreno veruju da bi AI mogao da ubije sve ljude".

Milijarder i čelnik Tesle i Spejs iksa (SpaceX) Ilon Mask u sredu je ta upozorenja uporedio sa "nameštaljkom", a posle ih nazvao "psihološkom operacijom (u nedostatku boljeg izraza)".

Koliko vredi Huang

Procenjeno je da Huangovo neto bogatstvo iznosi 189,3 milijarde dolara, što ga prema podacima od četvrtka čini osmim najbogatijim čovekom na svetu. Veliki deo njegovog bogatstva proističe iz udela u Envidiji, proizvođaču čipova koji je suosnovao 1993. godine i posle izveo na berzu. Envidia je zahvaljujući procvatu veštačke inteligencije postala najvrednija kompanija na svetu.

Nvidia je nedavno kupila Hugging Face za 12,9 milijardi dolara, čime je preuzela platformu za hosting AI modela otvorenog koda koja je bila meta hakerskog incidenta u julu.

Ključni kontekst

Vodeći laboratoriji koji razvijaju najnaprednije AI modele sve češće upozoravaju na pitanja bezbednosti kako tehnologija napreduje.

"Trenutno smatram da nijedna laboratorija nije rešila problem usklađivanja i nadzora u dovoljnoj meri da bi još dugo mogla odgovorno da nastavi sa razvojem sistema maksimalnom brzinom", napisao je početkom ove nedelje glavni naučnik OpenAI-ja Jakub Pahocki u objavi na blogu, nakon čega je pozvao AI laboratorije na "dobrovoljno usporavanje" razvoja.

U sredu je direktor OpenAI-ja za globalne poslove Kris Lehan pozvao na uvođenje savezne regulative i obaveznih bezbednosnih standarda za ovu tehnologiju.

Antropik je u četvrtak objavio opsežan izveštaj o zloupotrebi svog četbota Klod (Claude). U njemu se navode slučajevi njegove upotrebe za sajber napade, nadzor koji sprovode neprijateljske države, pa čak i moguća upotreba u razvoju biološkog oružja.

(Ubrzanje.rs/Forbs)