Gigant upozorava da bi razvoj AI mogao da izmakne kontroli: Ovo je njihov dokaz, kompanija se već opekla

Američka tehnološka kompanija Antropik upozorila je da bi razvoj veštačke inteligencije u budućnosti mogao da izmakne ljudskoj kontroli, pošto bi u jednom trenutku AI sistemi mogli da razvijaju i unapređuju sami sebe.

Najuočljivija cifra iz izveštaja je da više od 80 odsto koda koji se ugrađuje u Antropikov sistem danas piše Klod - AI model kompanije, dok je pre samo godinu i po dana taj procenat bio jednocifren.

U aprilu ove godine, Klod je uspeo da ispravi greške koje bi, prema procenama eksperata, čoveku oduzele četiri godine.

Ono što izveštaj čini posebno značajnim jesu podaci o napretku u istraživačkim, a ne samo inženjerskim zadacima.

Kada se Klod postavi pred složen istraživački problem bez jasnog cilja, model danas u 64 odsto slučajeva predlaže bolji sledeći korak od samog istraživača - u novembru 2025. taj procenat bio je 51 odsto.

Klodovi AI agenti su za 800 sati uspeli da reše problem iz bezbednosti AI sistema uz uspešnost od 97 odsto, dok su dva čoveka dostigla samo 23 odsto i to u toku od jedne nedelje.

Antropik ipak naglašava da je ključna granica još uvek na snazi i dodaje da je Klod izvanredan u izvršavanju zadataka koje mu čovek postavi, ali još uvek ne bira samostalno koji problemi su vredni rešavanja.

Kompanija opisuje tri moguća scenarija za budućnost: tehnološki napredak se usporava i sadašnje mogućnosti se samo šire po ekonomiji; AI i dalje napreduje, ali uz stalnu ljudsku kontrolu nad istraživačkim pravcima ili - najdalekosežniji scenario - AI sistemi postaju sposobni da potpuno unapređuju sami sebe, pri čemu sami projektuju i grade svoje naslednike.

Antropik zato poziva na usporavanje ili privremenu pauzu u razvoju najnaprednijih AI sistema - pod uslovom da isto učine i svi drugi, kako bi čovečanstvo bilo spremno da se nosi "ogromnim posledicama".

Kompanija je zbog toga na svojoj veb stranici najavila niz razgovora s kreatorima politika, istraživačima i civilnim društvom o pitanjima koordinacije i nadzora AI.

(Ubrzanje.rs/Tanjug)