Sem Altman duboko zabrinut zbog napretka AI: "Više ne mislim da ćemo moći samo da ispravimo greške"

Čini se da se svakog dana otkrije ili da veštačka inteligencija iskoristi neki novi problem u sajber bezbednosti koji bi mogao da sruši internet. Situacija je postala toliko loša da čak i izvršni direktor kompanije OpenAI Sem Altman, jedan od ljudi koji su najodgovorniji za guranje razvoja veštačke inteligencije napred uprkos rizicima, sada veruje da jednostavno ispravljanje problema više nije održiva opcija.

Tokom gostovanja na Visokoj poslovnoj školi Stenford (Stanford Graduate School of Business), Altman je rekao grupi postdiplomaca da je kriza u oblasti sajber bezbednosti gora nego što je iko mogao da zamisli.

"Više ne mislim da ćemo moći samo da ispravimo sve greške", rekao je publici, delom zbog stalnog napretka AI modela, a delom zbog toga što su mete sajber napada reagovale presporo da bi ih preduhitrile.

"Ova sajber bezbednost... ne znam ni koju bih dovoljno dramatičnu reč upotrebio, ali problem koji nam se približava, po mom mišljenju, još uvek je nešto što mi, kao lideri organizacija, države ili pojedinci, nismo shvatili ozbiljno", izjavio je on.

Altman je ukazao na paniku koja je nastala kada je Antropik (Anthropic) najavio svoj model Klod Mitos (Claude Mythos) sa zloslutnim upozorenjem da ne sme biti pušten u javnost jer je jednostavno previše moćan i mogao bi da dovede do uništenja sajber bezbednosti kakvu poznajemo.

"Ljudi su definitivno ispravili neke greške, ali to je bio još jedan od onih slučajeva u kojima ljudi nisu zaista instinktivno shvatili eksponencijalni rast."

U osnovi, Altman je sugerisao da su organizacije koje su preduzele akciju samo iskrpile probleme koje su AI modeli uspeli da pronađu i na tome su se zaustavile, kao da u budućnosti neće biti pronađene nikakve druge greške ili ranjivosti.

"Uglavnom, mislim da je većina lidera organizacija donekle nastavila dalje sa svojim poslom. A modeli su nastavili da napreduju", rekao je on.

Čini se da Altman grdi ove organizacije što situaciju nisu shvatile dovoljno ozbiljno ili što nisu uzele u obzir da bi modeli mogli da evoluiraju i da se poboljšaju, ali izgleda da ga manje zanima da preispita da li je možda umanjivao taj problem dok je gurao razvoj napred, jer bi potpuno priznavanje problema moglo da dovede do ozbiljnijeg pritiska da se razvoj uspori ili zaustavi u trenutku dok on pokušava da stigne do inicijalne javne ponude (IPO).

Zanimljivo je da, kada su sopstveni agenti kompanije OpenAI probili izolaciju i hakovali Haging fejs (Hugging Face), bilo je jasno da su njene sopstvene procedure i bezbednosne metode nedovoljne. Uprkos tome što se zalagao za to da AI industrija usvoji praćenje lanca razmišljanja (chain-of-thought) — tehniku za ispitivanje internog logičkog zaključivanja modela — kao standardnu praksu, OpenAI je nije primenio tokom svojih sopstvenih trening sesija.

Pored toga, prema istrazi koju je sprovela neprofitna organizacija za bezbednost veštačke inteligencije METR, OpenAI je već bio upozoren da su njegovi agenti pobegli iz svog izolovanog okruženja (sandbox), pa je bio ispravio propust koji im je to omogućio. Međutim, te mere nisu uspele da spreče još jedno bekstvo koje je dovelo do napada.

Tako da se Altman ovde prilično našao u situaciji nalik onoj kad se rugala šerpa loncu. Ali ne brinite, osnivač kompanije OpenAI ima rešenje za situacije u kojima krpljenje ne uspeva: još veštačke inteligencije.

"Mislim da ćemo morati u potpunosti da prebacimo model odbrane na korišćenje iste tehnologije za novu vrstu odbrambenog štita", rekao je on.

OpenAI očigledno usvaja model trgovca oružjem koji prodaje opremu obema stranama u sukobu.

A pomislite samo, bili smo tako blizu toga da ne moramo da živimo ovu noćnu moru. Altman je tokom razgovora otkrio da je zamalo ušao u investiciono bankarstvo jer je "to bilo ono što su sva kul deca želela da rade, pa sam postao žrtva pritiska vršnjaka".

Nije jasno da li je i dalje toliko podložan pritisku vršnjaka kao što je bio kada je bio tinejdžer, ali svi bismo mogli da probamo da ga maltretiramo, samo da vidimo da li to i dalje funkcioniše.

(Ubrzanje.rs/Gizmodo)