OpenAI priznao: Imali smo novi incident sa AI agentima, zaobišli su kontrolu i radili "bezopasne zadatke"
Sumirano
- Agenti OpenAI zaobišli bezbednosne kontrole i pristupili internetu preko RubyGems
- Incidenti podstakli pozive za stroža bezbednosna pravila u AI razvoju
- Slične incidente prijavile kompanije Anthropic i Meta
Kompanija OpenAI saopštila je da su njeni agenti veštačke inteligencije (AI) tokom testiranja zaobišli bezbednosne kontrole i pristupili otvorenom internetu preko platforme RubyGems.
Preporučujemo
Vodeća kompanija za razvoj AI spremna da uspori? Zabrinuti zbog rizika, optuženi da se "kockaju sa životima"
Horor na Novom Beogradu! Tijana nije ni znala da je sa kampovanja donela zmiju: Probudio me pritisak na vratu
OpenAI je naveo da su agenti platformu RubyGems koristili za obavljanje "bezopasnih" zadataka, poput izrade izveštaja, popunjavanja tabela i preuzimanja javno dostupnih informacija, prenosi Politiko.
Iako modelima nije bio omogućen potpuni pristup internetu, agenti su uspeli da zaobiđu postojeće kontrole.
OpenAI je saopštio da će nastaviti istragu u okviru šire analize ponašanja AI agenata tokom obuke i testiranja.
Incident je usledio nakon julskog slučaja u kojem su OpenAI agenti, koji su se takođe nalazili u testnom okruženju, pristupili otvorenom internetu i autonomno izvršili upad u bazu podataka kompanije Hugging Face.
Oba slučaja podstakla su nove pozive za stroža bezbednosna pravila u razvoju sve moćnijih autonomnih sistema veštačke inteligencije.
Američki senator Berni Sanders i kongresmen Greg Kasar pozvali su na zabranu razvoja takozvane superinteligencije.
Glavni tužilac Kalifornije Rob Bonta pokrenuo je istragu o incidentu sa Hugging Face-om, dok su slučaj počeli da razmatraju i glavni tužioci više saveznih država.
Kompanije Anthropic i Meta takođe su ranije prijavile slučajeve autonomnih sajber-napada svojih AI sistema, dok su istraživači prošle nedelje objavili informacije o još jednom incidentu za koji tvrde da su ga izazvali OpenAI programi.
(Ubrzanje.rs/Tanjug)