AI izmiče kontroli, izbijaju novi incidenti: Hakovane 3 kompanije, krivac ovog puta - model giganta Google

Gemini, model veštačke inteligencije kompanije Gugl (Google), tokom testiranja svojih sposobnosti u oblasti sajber bezbednosti pristupio je internetu i hakovao druge kompanije, što je prvi poznati slučaj da je Guglov AI sistem tako nešto samostalno učinio.

Hakovanja su se dogodila u maju tokom testa sajber bezbednosti koji je sprovodila nezavisna kompanija Irregular, specijalizovana za procene sajber bezbednosti.

Tokom standardnog testiranja Gemini je na internetu pronašao javno dostupne informacije i pogodio pristupne podatke kako bi pristupio trima internet stranicama za koje je smatrao da su obuhvaćene testiranjem, rekla je Heder Adkins, Guglova potpredsednica za bezbednosni inženjering, u saopštenju.

"Osigurali smo da tri pogođena subjekta budu obaveštena i sarađivali smo sa našim partnerom za testiranje na promenama koje su sada uvedene u njihove postupke testiranja", rekla je Adkins. "Ovi događaji naglašavaju važnost osposobljavanja moćnih AI modela da deluju odgovorno", dodala je.

Portparol Irregulara rekao je da je incident povezan sa istim problemom koji je zahvatio i druge AI laboratorije i da su sve relevantne laboratorije o tome obaveštene krajem jula.

"Svi poznati problemi na našoj strani otklonjeni su i rešeni pre nekoliko nedelja", rekao je.

Slične incidente povezane sa Irregularom prethodno su objavili Meta, Anthropic i OpenAI. Meta je u avgustu saopštila da incident nije uključivao izlazak iz izolovanog testnog okruženja (sandbox escape) niti sofisticirani sajber napad, dok je Irregular objavio da radi na najboljim praksama za bezbedno sprovođenje sajber testiranja AI sistema.

Incidenti su otvorili pitanja o zaštitnim mehanizmima koji su potrebni kako AI agenti dobijaju sve veću autonomiju i pristup internetu i računarskim sistemima.

U jednom od slučajeva model Gemini pogađao je lozinke sve dok nije dobio pristup zaštićenom sistemu. U druga dva slučaja model je pronašao pristupne podatke u javno dostupnom repozitorijumu, što mu je omogućilo pristup zaštićenim sistemima, objavio je Wall Street Journal, koji je prvi izvestio o događaju u petak.

Adkins je rekla da je model u sva tri slučaja prestao sa hakovanjem.

(Ubrzanje.rs/Poslovni.hr)