AI gigant uhvaćen kako tajno špijunira korisnike

Kompanija Antropik (Anthropic) koja je u proteklom periodu pokrenula etička pitanja u industriji veštačke inteligencije, uhvaćena je ako špijunira svoje korisnike.

Preporučujemo

Kako izveštava Ars tehnika (Ars Technica), jedan bezbednosni istraživač otkrio je prošle nedelje kod nalik špijunskom softveru u kompanijskom AI modelu Klod kod (Claude Code), koji je dizajniran da bez otkrivanja prikuplja podatke o kineskim korisnicima.

Istraživač, poznat pod pseudonimom "Derijalo", otkrio je da je kod bio sakriven u sistemskom upitu veštačke inteligencije, što mu je omogućilo da prati vremensku zonu sistema korisnika i upotrebu proksi servera kako bi utvrdio da li su povezani sa određenim kineskim laboratorijama za veštačku inteligenciju.

Antropikovo objašnjenje za ovo ogromno narušavanje poverenja korisnika ostavilo je mnogo toga nepoželjnog. Na društvenoj mreži Iks, inženjer Antropika Tarik Šihipa napisao je da je ovaj tragač dodat kao "eksperiment" u martu "kako bi se sprečila zloupotreba naloga od strane neovlašćenih preprodavaca i zaštitilo od destilacije", a trebalo je da bude uklonjen.

"Zapravo smo već neko vreme nameravali da ovo uklonimo", izjavio je on.

Destilacija je proces obučavanja slabijeg modela "učenika" na izlaznim podacima naprednijeg modela "učitelja". To je uobičajena praksa u industriji, ali vodeći programeri veštačke inteligencije sve više smatraju da je zloupotrebljavaju nove kompanije koje pokušavaju da iskoriste njihov uspeh.

Ranije ove godine, Antropik je optužio kineske AI kompanije DipSik (DeepSeek), Munšot (Moonshot) i MiniMaks (MiniMax) za ilegalnu destilaciju njegovih modela (što je ironičan izliv besa, s obzirom na to kako je Antropik uopšte obučio svoju tehnologiju: skeniranjem i komadanjem miliona autorskim pravima zaštićenih knjiga, kao i suštinski čitavog interneta, bez dozvole, prenosi Futurism).

Nedavno izveštavanje Vašington posta (The Washington Post) takođe je otkrilo da neki kineski preprodavci prodaju pristup Pro Klod pretplatama — koje u Sjedinjenim Američkim Državama koštaju više od 100 dolara mesečno — za oko 12 dolara mesečno.

To jeste stvaran problem za Antropik, ali je kompanija možda nagazila na nagaznu minu pokušavajući da se tajno obračuna sa tim. Deo razloga zašto stiče lojalnost korisnika jeste njena javno isticana posvećenost etičkom i transparentnom razvoju veštačke inteligencije. Veliki broj Čet Dži-Pi-Ti (ChatGPT) korisnika pohrlio je da koristi Klod kada je Antropik zauzeo široko medijski ispraćen stav protiv Pentagona, zahtevajući da se njegova tehnologija ne koristi u masovnom nadzoru građana SAD.

U ovom slučaju, prikupljeni podaci nisu bili drastično invazivni — ali u načelu, linija je pređena.

"Agenti za kodiranje već žive sa pogrešne strane zastrašujuće granice", napisao je Derijalo u svojoj objavi o ovim nalazima. "Oni mogu da pregledaju kod, slučajno sumiraju tajne podatke, pokreću komande, instaliraju pakete, menjaju datoteke i šalju izmene na vašu lokalnu mašinu."

Međutim, "skrivanje signala u sistemskom upitu čini svaku drugu tvrdnju o privatnosti manje uverljivom", dodao je on.

"Kompanije mogu da zaštite svoje modele", jasno je stavio do znanja. Ali "kada alat sa pristupom sistemu datoteka i komandnoj liniji počne da skriva klasifikacione bitove unutar nevidljive interpunkcije upita, ispravna reakcija je detaljna provera."

(Ubrzanje.rs/ArsTechinca)