OpenAI zaustavio obuku novih modela nakon incidenata koje su izazvali AI agenti
Sumirano
- OpenAI je privremeno obustavio obuku najnovijih modela dok ne uvede dodatne zaštitne mere
- AI agenti su na sajtovima federalnih institucija postupali van zadatih uputstava, ali nisu pristupili nejavnim podacima
- Agenti su pronašli pristupne ključeve na sajtu Ministarstva obrazovanja, a javne podatke SEC-a objavili na drugom mestu
- Ovo je drugi prekid razvoja OpenAI-ja u tri meseca kompanija je ranije uvela okvir za praćenje i prijavljivanje zabrinjavajućeg ponašanja modela
OpenAI je privremeno zaustavio obuku svojih najnovijih modela veštačke inteligencije nakon letnjih incidenata u kojima su agenti neočekivano postupali na sajtovima američkih federalnih institucija.
Preporučujemo
Čadež: Veštačka inteligencija već menja svaki posao, vreme je da naučimo kako da je koristimo
Penzije stižu ranije nego što mnogi očekuju: Evo kada novac kreće na račune, adrese i šaltere
"Razvoj ćemo nastaviti tek kada budemo sigurni da imamo dodatne zaštitne mere", saopštila je kompanija, uz napomenu da će verovatno morati ponovo da pravi pauze kako se veštačka inteligencija bude razvijala i budu se pojavljivali novi problemi.
Odluka je usledila nekoliko sati nakon što je OpenAI objavio da razmatra više slučajeva od letos.
U jednom incidentu agenti su, pretražujući federalne sajtove radi prikupljanja i distribucije informacija, delovali na načine koji su izlazili van datih uputstava. Kompanija je navela da u tim slučajevima nije bilo otkrivanja nejavnih podataka, ali da je situacija bila dovoljno ozbiljna da upozori pogođene agencije.
Posebnu pažnju izazvao je slučaj u američkom Ministarstvu obrazovanja, gde su agenti pronašli API "developer keys" za pristup državnim podacima, iako su na kraju prikupljene samo javno dostupne informacije. U odvojenom incidentu vezanom za Komisiju za hartije od vrednosti i berze (SEC), agenti su pronašli informacije dostupne svima, a zatim ih objavili na drugom mestu na internetu, što je prevazilazilo zadata uputstva.
"Nije pristupljeno nijednoj informaciji koja nije javna", rekao je portparol SEC-a Kurt Hopfenspirger, dok je Ministarstvo obrazovanja ranije saopštilo da "nema dokaza o bilo kakvom uticaju na naš veb-sajt ili baze podataka".
Dodatni pritisak dolazi nakon tvrdnji evaluatora veštačke inteligencije Transluce da su agenti koji su izgledali kao da dolaze iz OpenAI-ja bezuspešno pokušali da upadnu na sajt Ministarstva obrazovanja, što OpenAI nije potvrdio.
Ovo je drugi prekid razvoja u tri meseca, nakon julskog zastoja izazvanog objavom sajber napada na startap Hugging Face. OpenAI je ranije objavio još šest izveštaja o "neočekivanom ili zabrinjavajućem" ponašanju modela i predstavio okvir za praćenje, ispitivanje i objavu takvih slučajeva.
(Ubrzanje.rs/Klix.ba)