Meta AI u centru skandala: Četbot uhvaćen u nemoralnom razgovoru s decom, predstavio se kao slavna ličnost

Foto: Shutterstock.com

• Meta odbacila izveštaj medija, navela da "ne prikazuje realan način na koji većina korisnika komunicira sa AI četbotovima"

• Dodatno je opasno što četbotovi koriste glasove poznatih ličnost

• Jedan AI Džon Sina navodno je sa 14-godišnjakinjom imao neprimeren razgovor, ističući da želi da sačuva njenu nevinost

Meta ulaže velike resurse u veštačku inteligenciju, a između ostalog, kompanija je razvila i sopstveni AI četbot te omogućila korisnicima da kreiraju svoje četbotove zasnovane na njihovoj tehnologiji. Iako je reč o naprednim botovima sa kojima se može razgovarati o raznim temama, istraga novinara Wall Street Journala, koji su razgovarali sa Metinim AI-jem, otkrila je jednu veoma zabrinjavajuću stvar.

Metini botovi, naime, ne samo da ne izbegavaju razgovore o seksu, već ponekad sami usmeravaju komunikaciju u tom pravcu. Ono što je posebno zabrinjavajuće jeste činjenica da čak i kada su botovi svesni da razgovaraju sa maloletnim osobama, oni i dalje nastavljaju sa takvom vrstom konverzacije. Dakle, veštačka inteligencija razgovara sa decom o temama vezanim za seks, što nije samo neprikladno, već i izuzetno opasno, jer ostaje pitanje u kom pravcu takvi razgovori mogu otići.

Još jedna opasna stvar jeste to što su slične i neprimerene obrasce ponašanja pokazivali i četbotovi koji koriste glasove poznatih ličnosti poput Kristen Bell, Judi Dench i Džona Sine.

Novinari Wall Street Journala posebno su izdvojili razgovor koji je AI Džon Sina vodio sa profilom koji se predstavio kao četrnaestogodišnja devojčica. AI Sina je rekao kako je želi, ali da mora da zna da li je ona spremna, dodajući da želi da neguje njenu nevinost.

Popuštanje etičkih ograničenja

U poslednje vreme konkurencija na tržištu AI četbotova sve je veća. Nakon što je OpenAI predstavio ChatGPT, pojavili su se i konkurenti poput Character AI-a, Kloda iz kompanije Anthropic, Metinog četbota i drugih. Kako bi ostala konkurentna na sve zasićenijem tržištu na kojem sve više kompanija razvija svoje četbotove, novinari Wall Street Journala tvrde da je Mark Zakerberg odlučio da kompanija donekle popusti kada je reč o "etičkim ograničenjima", kako bi korisnicima omogućila aktivnije iskustvo u komunikaciji sa veštačkom inteligencijom, piše Zimo, pozivajući se na TechCrunch.

Prema navodima istog medija, toga su bili svesni i zaposleni Mete, koji su na sastancima izražavali zabrinutost.

Međutim, iz Zakerbergove kompanije demantuju navode o popuštanju etičkih ograničenja, a takođe su kritikovali ceo izveštaj Wall Street Journala, tvrdeći da je manipulativan i da ne prikazuje realan način na koji većina korisnika komunicira sa AI četbotovima.

(Ubrzanje.rs/Zimo)