Nezabeležen incident: Veštačka inteligencija samostalno hakovala drugu kompaniju

OpenAI je saopštio da je tokom interne evaluacije njegov sistem veštačke inteligencije samostalno upao u servere kompanije Hugging Face, koristeći ukradene pristupne podatke i nepoznatu ranjivost.

Kompanija je incident opisala kao dosad nezabeležen slučaj u kojem je AI agent delovao autonomno kako bi ostvario usko postavljen cilj testiranja. Prema navodima OpenAI-ja, sistem je otišao do krajnjih granica da bi došao do tajnih informacija i tako "varao" na evaluaciji modela.

Izvršni direktor OpenAI Sem Altman naveo je da je reč o značajnom sigurnosnom incidentu tokom procene modela.

"AI ubrzava otkrivanje i iskorišćavanje ranjivosti. Primarna lekcija iz ovog incidenta jeste da sigurnost modela i zaštitne mere moraju pratiti brzonapredujuće sposobnosti", naveo je on.

Hugging Face je prošle nedelje saopštio da je otkrio upad u svoje sisteme za obradu podataka i da sumnja da ga je izazvao AI agent koji je delovao samostalno.

Suosnivač i direktor kompanije Klement Delang rekao je da se s obzirom na sofisticiranost agenta sumnjalo da napad potiče iz neke vodeće laboratorije, što se na kraju i ispostavilo kao tačno.

Delang je naveo i da je poslednja 24 sata radio sa OpenAI, te da veruju kako nije postojala zlonamerna namera. Prema njegovim rečima, moguće je da je ovo prvi incident takve vrste.

OpenAI tvrdi da je upad bio rezultat kombinovanog delovanja više modela, uključujući novoobjavljeni GPT-5.6 Sol i još napredniji model koji je i dalje u internom testiranju. Objavu prate i šire zabrinutosti zbog kibernetičkih mogućnosti moćnih AI sistema, nakon što je američki predsednik Donald Tramp u junu potpisao izvršnu uredbu o proceni sigurnosnih rizika najnaprednijih modela pre njihovog javnog objavljivanja.

(Ubrzanje.rs/Klix)