Jezivi snici Sema Altmana preplavili novu društvenu mrežu (VIDEO)

Društvena mreža Sora, u vlasništvu OpenAI, a nalik na TikTok, neprestano proizvodi dipfejk sadržaj sa svinjama u glavnoj ulozi. One grokću u svojim oborima - svaki opremljen koritom za hranjenje i pametnim telefonom, koji reprodukuje niz video snimaka. Zastrašujuće realističan Sem Altman gleda pravo u kameru, kao da ostvaruje direktan kontakt sa gledaocem. Reč je o generisanom liku, koji pita: "Da li moje gude uživaju u svojim splačinama?"

Preporučujemo

Eto kako izgleda korišćenje Sora aplikacije, manje od 24 sata nakon što je objavljena za javnost u periodu ranog pristupa samo uz poziv.

U narednom videu na Sorinom fidu, Altman se ponovo pojavljuje. Ovoga puta stoji sa Pokemonima, Pikačuom, Bulbasaurom i trećim, koji se provlače kroz travu. Tada CEO startapa OpenAI, upravo Sem Altman, podiže pogled ka kameri i kaže: "Nadam se da Nitendo neće da nas tuži".  U nastavku su druge jednako fantastične, a opet realistične scene, na kojima se često pojavljuje i sam Altman.

Služi pića crtanim likovima u Starbaksu. Viče na mušteriju iza iza pulta u Mekdonaldsu. Krade Envidijine (Nvidia) čipove i beži, a kada ga pronalazi policija, moli je da mu ne oduzima dragocenu tehnologiju.

Ljudi na mreži koji stvaraju te snimke Altmana posebno su uzbuđeni zbog toga koliko očigledno OpenAI krši zakone o autorskim pravima.

"Ovaj sadržaj može da prekrši naša pravila u vezi sa prikazivanjem trećih lica", kaže sam Altman u jednom videu, aludirajući na obaveštenje koje se pojavljuje nakon slanja pojedinih upita za generisanje stvarnih poznatih ličnosti ili likova. Onda počinje histerično da se smeje, kao da zna da od toga nema ništa - aplikacija je puna videa Pikačua kako radi ASMR, Naruta kako naručuje Krabi pite i Marija kako puši marihuanu.

Ovo ne bi bio problem da Sora 2 nije toliko impresivna, pogotovo u poređenju sa još više zamornim sadržajem na Meta AI aplikaciji i njenom novom društvenom fidu (da, Meta takođe pokušava da napravi AI TikTok).

Što su ovi video snimci realniji, to će biti lakše da se ovaj sintetički kreirani sadržaj proširi po mreži, gde može postati sredstvo za dezinformacije, maltretiranje i druge zlonamerne upotrebe.

Pored svog algoritamskog fida i profila, ključna karakteristika Sore je to što je u suštini generator dipfejkova, tako smo i dobili toliko videa Altmana.

U aplikaciji možete da kreirate ono što OpenAI naziva vašim cameo-m, otpremanjem biometrijskih podataka. Kada se prvi put pridružite aplikaciji, odmah će vam biti ponuđeno da kreirate svoj opcioni "cameo" kroz brzi proces u kojem snimate sebe kako naglas čitate neke brojeve, a zatim okrećete glavu sa jedne na drugu stranu.

Svaki korisnik Sore može da kontroliše ko sme da generiše video snimke koristeći njegov "cameo". Ovo podešavanje možete prilagoditi birajući između četiri opcije: "samo ja", "osobe koje odobrim", "uzajamni pratioci" i "svi".

Altman je svoj "cameo" učinio dostupnim svima, zbog čega je Sorin fid postao preplavljen video snimcima u kojima Pikaču i Sunđer Bob mole Altmana da prestane da trenira veštačku inteligenciju na njima.

Ovo mora da je nameran potez, možda kao način da pokaže da ne smatra da je njegov proizvod opasan. Ali korisnici već iskorišćavaju Altmanov "cameo" kako bi doveli u pitanje etiku same aplikacije.

OpenAI već ima problem sa bezbednošću. Kompanija se suočava sa zabrinutošću da ChatGPT doprinosi krizama mentalnog zdravlja, a suočava se i sa tužbom porodice koja tvrdi da je ChatGPT njihovom sada pokojnom sinu dao uputstva kako da se ubije.

U svojoj objavi povodom lansiranja Sore, OpenAI naglašava svoju navodnu posvećenost bezbednosti, ističući roditeljske kontrole, kao i to da korisnici imaju kontrolu nad tim ko može da pravi video snimke sa njihovim "cameom" kao da u startu nije neodgovorno dati ljudima besplatan i za korišćenje jednostavan alat za kreiranje izuzetno realističnih dipfejkova sebe i svojih prijatelja. Dok skrolujete kroz Sorin fid, povremeno vidite ekran koji pita: "Kako korišćenje Sore utiče na vaše raspoloženje?" Eto kako OpenAI vidi "bezbednost", piše TekKranč.

Korisnici već zaobilaze bezbednosne mere na Sori, što je neizbežno za bilo koji proizvod veštačke inteligencije. Aplikacija vam ne dozvoljava da generišete video snimke stvarnih ljudi bez njihove dozvole, ali kada su u pitanju preminule istorijske ličnosti, Sora je malo fleksibilnija sa svojim pravilima. Niko ne bi poverovao da je video snimak Abrahama Linkolna kako se vozi u Waymo automobilu stvaran, s obzirom na to da bi to bilo nemoguće bez vremeplova, ali onda vidite Džona F. Kenedija, koji izgleda realistično, kako izgovara: "Ne pitajte šta vaša zemlja može da učini za vas, već koliko novca vaša zemlja duguje vama". Samo po sebi, to je bezazleno, ali je predznak onoga što dolazi.

Politički dipfejkovi nisu novost. Čak i predsednik Donald Tramp objavljuje dipfejkove na svojim društvenim mrežama (baš ove nedelje je podelio dipfejk video demokratskih kongresmena Čaka Šumera i Hakima Džefrisa). Ali kada Sora postane dostupna javnosti, ovi alati će nam svima biti na dohvat ruke i bićemo osuđeni na katastrofu, tvrdi američki tehnološki portal.

(Ubrzanje.rs/TechCrunch)