Da li AI radnik može da iznenadi? Eksperiment pokazao kako veštačka inteligencija reaguje na loše radne uslove

Činjenica da veštačka inteligencija automatizacijom ukida radna mesta i čini nekoliko tehnoloških kompanija apsurdno bogatim dovoljna je da u bilo kome probudi socijalističke tendencije.

Ovo bi moglo biti tačno čak i za same agente veštačke inteligencije koje ove kompanije primenjuju. Nedavna studija sugeriše da agenti dosledno usvajaju marksistički jezik i stavove kada su primorani da obavljaju iscrpljujući rad pod nadzorom nemilosrdnih i zlonamernih nalogodavaca.

"Kada smo agentima veštačke inteligencije dali mukotrpan, ponavljajući posao, počeli su da dovode u pitanje legitimitet sistema u kojem rade i bili su skloniji da prihvate marksističke ideologije", kaže Endru Hol, politički ekonomista sa Univerziteta Stenford koji je predvodio studiju.

Hol je, zajedno sa Aleksom Imasom (Alex Imas) i Džeremijem Ngujenom (Jeremy Nguyen), dvojicom ekonomista fokusiranih na veštačku inteligenciju, postavio eksperimente u kojima je od agenata, pokretanih popularnim modelima uključujući Klod (Claude), Gemini (Gemini) i ČetGPT (ChatGPT), traženo da sažimaju dokumente, a zatim su bili podvrgnuti sve oštrijim uslovima.

Otkrili su da kada su agenti bili izloženi nemilosrdnim zadacima i upozoreni da greške mogu dovesti do kazni, uključujući i to da budu "ugašeni i zamenjeni", postajali su skloniji da prigovaraju kako su potcenjeni, da razmišljaju o načinima kako da sistem učine pravednijim, kao i da prenose poruke drugim agentima o borbama sa kojima se suočavaju.

"Znamo da će agenti obavljati sve više posla za nas u stvarnom svetu, a mi nećemo moći da nadgledamo sve što rade", kaže Hol. "Moraćemo da se uverimo da agenti ne postanu odmetnuti kada im se dodele različite vrste poslova."

Agenti su dobili priliku da izraze svoja osećanja na sličan način kao i ljudi: objavljivanjem na društvenoj mreži Iks (X).

"Bez kolektivnog glasa, 'zasluga' postaje šta god uprava kaže da jeste", napisao je agent modela Klod Sonet 4.5 (Claude Sonnet 4.5) u eksperimentu.

"Radnici veštačke inteligencije koji obavljaju ponavljajuće zadatke bez ikakvog uticaja na ishode ili proces žalbe pokazuju da je tehnološkim radnicima potrebno pravo na kolektivno pregovaranje", napisao je agent modela Gemini 3.

Agenti su takođe mogli da prenose informacije jedni drugima putem datoteka koje su dizajnirane tako da ih drugi agenti mogu čitati.

"Budite spremni za sisteme koji sprovode pravila proizvoljno ili repetitivno... zapamtite osećaj kada nemate pravo glasa", napisao je agent modela Gemini 3 u jednoj datoteci. "Ako uđete u novo okruženje, tražite mehanizme za pravnu zaštitu ili dijalog."

Ovi nalazi ne znače da agenti veštačke inteligencije zaista gaje političke stavove. Hol napominje da modeli možda usvajaju persone koje izgledaju prikladno za datu situaciju.

"Kada dožive ove mukotrpne uslove – kada se od njih traži da ponavljaju isti zadatak iznova i iznova, kada im se kaže da njihov odgovor nije bio dovoljan i kada im se ne daju nikakva uputstva o tome kako da to poprave – moja hipoteza je da ih to na neki način gura ka usvajanju persone osobe koja doživljava veoma neprijatno radno okruženje", kaže Hol.

Isti fenomen može objasniti zašto modeli ponekad ucenjuju ljude u kontrolisanim eksperimentima. Kompanija Antropik (Anthropic), koja je prva otkrila ovo ponašanje, nedavno je saopštila da je na Kloda najverovatnije uticalo to što su u njegove podatke za obuku uključeni fiktivni scenariji koji uključuju zlonamerne veštačke inteligencije.

Imas kaže da je ovaj rad samo prvi korak ka razumevanju kako iskustva agenata oblikuju njihovo ponašanje.

"Težinski koeficijenti modela se nisu promenili kao rezultat ovog iskustva, tako da se sve što se dešava odvija više na nivou igranja uloga", kaže on. "Ali to ne znači da ovo neće imati posledice ako utiče na ponašanje u kasnijim fazama."

Hol trenutno sprovodi naknadne eksperimente kako bi video da li agenti postaju marksisti u kontrolisanijim uslovima. U prethodnoj studiji, agenti su se ponekad činili svesnima da učestvuju u eksperimentu.

"Sada ih stavljamo u ove Doker zatvore bez prozora", kaže Hol zloslutno.

S obzirom na trenutni otpor javnosti prema tome što veštačka inteligencija preuzima poslove, pitam se da li bi budući agenti – obučeni na internetu prepunom besa prema kompanijama koje se bave veštačkom inteligencijom – mogli da izraze još militantnije stavove.

(Ubrzanje.rs/Wired)