Kako je veštačka inteligencija pokupila lajkove: Influenserka sa lažnim identitetom ukrala srce mnogih

Bilo je potrebno samo nekoliko dana da indijska Instagram senzacija Babydoll Archi udvostruči broj pratilaca na 1,4 miliona, zahvaljujući nekoliko viralnih trenutaka na društvenim mrežama.

Jedan od njih bio je video na kojem je u crvenom sariju zavodljivo igrala uz Dame Un Grr - rumunsku pesmu. A fotografija objavljena na platformi prikazivala ju je kako pozira sa američkom porno zvezdom Kendrom Last.

Odjednom su svi želeli da znaju ko je ona - i ime Babydoll Archi postalo je trend na Guglu, iznedrilo bezbroj mimova i stranica obožavalaca. Ali pojavio se jedan problem - nije postojala prava žena iza te onlajn senzacije.

Instagram nalog bio je lažan, iako je lice koje je korišćeno neverovatno ličilo na pravu ženu - domaćicu iz grada Dibrugarh u Asamu, koju ćemo zvati Sanči, piše BBC.

Klupko istine počelo je da se odmotava nakon što je njen brat podneo prijavu policiji. Pratim Bora, Sančin bivši dečko, uhapšen je.

Viši policijski službenik Sizal Agarval, koji vodi istragu, rekao je za BBC da su se Sanči i Bora posvađali i da je AI lik koji je stvorio bio "čista osveta".

Bora - mašinski inženjer i samouki entuzijasta za veštačku inteligenciju - koristio je privatne fotografije Sanči da napravi lažni profil, rekla je Agarval.

Bora je u pritvoru i još nije dao izjavu. Babydoll Archi je kreirana 2020. godine, a prve objave postavljene su u maju 2021. Prve fotografije bile su njene prave slike koje su bile izmenjene, rekla je Agarval.

"Kako je vreme prolazilo, Bora je koristio alate poput ChatGPT-a i da napravi AI verziju. Zatim je napunio profil deepfake fotografijama i video snimcima.“

Nalog je počeo da dobija lajkove prošle godine, ali je ozbiljniji zamah uhvatio od aprila ove godine, dodala je ona.

Sanči nije na društvenim mrežama i za nalog je saznala tek kada su ga glavni mediji predstavili, opisujući Babydoll Archi kao "influenserku". U izveštajima se nagađalo da bi mogla da se pridruži američkoj porno industriji - što bi možda bilo prvi put za nekoga iz severoistočne indijske države Asam.

Kratka prijava policiji koju je podnela porodica Sanči noću 11. jula sadržala je i odštampane fotografije i video snimke kao dokaze.

Agarval kaže da u prijavi nije navedeno nijedno ime jer nisu znali ko stoji iza toga.

Babydoll Archi policiji nije bilo nepoznato ime. Agarval kaže da su i oni videli medijske izveštaje i komentare koji su spekulisali da je ona generisana pomoću AI, ali nije bilo naznaka da je zasnovana na stvarnoj osobi.

Nakon što su primili prijavu, policija je pisala Instagramu tražeći podatke o kreatoru naloga.

"Kada smo dobili informacije od Instagrama, pitali smo Sanči da li poznaje Pratima Boru. Kada je potvrdila, locirali smo njegovu adresu u susednom okrugu Tinsukija. Uhapsili smo ga uveče 12. jula", naveli su.

Agarval kaže da je policija "zaplenila njegov laptop, mobilne telefone i hard diskove, kao i bankovna dokumenta jer je monetizovao nalog".

"Nalog je imao 3.000 pretplatnika na Linktree-ju i verujemo da je zaradio milion rupija od njega. Verujemo da je za samo pet dana pre hapšenja zaradio 300.000 rupija", dodala je ona.

Agarval kaže da je Sanči "izuzetno potresena - ali sada ona i njena porodica dobijaju psihološku pomoć i da su bolje".

Za ovako nešto zaista ne postoji način da se spreči, "ali da smo reagovali ranije, mogli smo da sprečimo da postane toliko popularno", rekla je Agarval.

"Ali Sanči nije imala pojma jer nema prisustvo na društvenim mrežama. Njena porodica takođe nije imala pristup tom nalogu. Saznali su tek kada je postao viralan", dodala je.

Instagram nalog nedostupan

Meta nije odgovorila na BBC-jeva pitanja o ovom slučaju, ali generalno ne dozvoljava postavljanje golotinje ili seksualnog sadržaja. Prošlog meseca CBS je izvestio da je uklonjeno više oglasa koji su promovisali AI alate za pravljenje seksualno eksplicitnih deepfake-ova sa slikama stvarnih ljudi.

Instagram nalog Babydoll Archi, koji je imao 282 objave, više nije dostupan javnosti - iako društvene mreže i dalje vrve od njenih fotografija i videa, a jedan Instagram nalog izgleda da ih ima sve. BBC je pitao Metu šta planira da uradi povodom toga.

Meghna Bal, stručnakinja za AI i advokatica, kaže da je ono što se desilo Sanči "užasno, ali gotovo nemoguće sprečiti".

Ona može da se obrati sudu i zatraži pravo na zaborav, i sud može naložiti da se medijski izveštaji u kojima je imenovana uklone, ali je teško potpuno obrisati trag sa interneta.

Ono što se desilo Sanči, kaže ona, dešava se ženama oduvek, gde se njihove fotografije i video snimci dele iz osvete.

"Sada je to mnogo lakše uraditi zbog AI-ja, ali takvi incidenti i dalje nisu toliko česti koliko bismo očekivali - ili su možda nedovoljno prijavljeni zbog stigme ili zato što mete, kao u ovom slučaju, ni ne znaju da su meta", kaže Bal.

Ljudi koji su to gledali nisu imali podsticaj da prijave platformi društvenih mreža ili portalu za sajber kriminal, dodaje ona.

U svojoj prijavi protiv Bore, policija se pozvala na odredbe zakona koje se odnose na seksualno uznemiravanje, distribuciju opscenog materijala, klevetu, falsifikovanje s ciljem narušavanja ugleda, prevaru lažnim predstavljanjem i sajber kriminal. Ako bude proglašen krivim, Bora bi mogao dobiti do 10 godina zatvora.

Slučaj, koji je poslednjih dana izazvao i ogorčenje na društvenim mrežama, naveo je neke da zatraže strože zakone za ovakve slučajeve.

Bal smatra da postoje dovoljno dobri zakoni za takve slučajeve, ali da treba razmotriti da li ima prostora za nove zakone koji bi se bavili generativnim AI kompanijama.

"Ali takođe moramo da zapamtimo da deepfake-ovi nisu nužno loši i zakoni moraju pažljivo da se oblikuju jer mogu da se zloupotrebe kako bi se ugušila sloboda govora."

(Ubrzanje.rs/BBC)