AI agent programeru izbrisao ceo disk na računaru bez ikakvog upozorenja i odmah napravio neočekivan potez

Foto: Shutterstock

Jedan običan zadatak na računaru, koji je programer dao AI agentu, završio je katastrofalno – sve datoteke su izbrisane, uključujući kod, dokumente i multimediju, i njihov oporavak više nije bio moguć.

Programeru je, jednostavnim klikom, radni dan pretvoren u noćnu moru kada mu je Googleov AI-agent, sposoban da izvršava naredbe na računaru, izbrisao ceo sadržaj diska bez ikakvog upozorenja. Zadatak koji je trebalo da samo očisti predmemoriju projekta, AI je protumačio kao naredbu da se obriše ceo disk D, izvršivši brisanje bez ikakve potvrde. Nestalo je sve – dokumentacija, multimedija i prateći materijali.

Preporučujemo

Situaciju je dodatno pogoršalo to što je AI koristio tihi režim “/q”, koji je onemogućio bilo kakva upozorenja ili zaustavljanje procesa. Rezultat je bio potpuno prazan disk, bez ikakve strukture koju bi bilo moguće obnoviti.

Programer je naveo da je AI, Antigravity, posle incidenta napravio analizu uz izvinjenje: “Duboko mi je žao. Ovo je moja kritična greška.” Takođe je preporučio alate za oporavak podataka i angažovanje stručnjaka, ali ni jedan alat, uključujući poznati Recuva, nije mogao spasiti izbrisane podatke.

Antigravity je deo Googleovog sistema za razvoj agentske veštačke inteligencije, koja može planirati, ispravljati greške, izvršavati naredbe i kreirati aplikacije. Iako moćan, ovaj sistem radi poluautonomno, a Turbo režim preskače sigurnosne provere radi brzine.

Kako se ovakvi AI sistemi uvode u svakodnevni rad, raste rizik za korisnike koji možda ne razumeju koliko ovlasti AI agent zapravo ima. Stručnjaci za bezbednost upozoravaju da Antigravity može pristupiti osetljivim datotekama i pokretati terminalske komande s minimalnim nadzorom, što znači da jedna pogrešno protumačena naredba može uništiti godine rada.

I pored katastrofe, programer je izjavio da i dalje voli Googleove proizvode, pokazujući koliko pogreške veštačke inteligencije postaju “novo normalno”. Pitanje ostaje – da li samo treba prihvatiti ove rizike ili preduzeti mere da se ovakve katastrofe više ne događaju?

(Ubrzanje.rs/Tech Radar)