Da li je medved muškog ili ženskog roda? A ptice i psi? Iznenadiće vas šta AI radi u pričama za decu

Knjige za decu koje generiše veštačka inteligencija (AI) ispoljavaju čudan obrazac: izraženu pristrasnost protiv ženskih životinjskih likova, koja je, doduše, prisutna i u onima koje su napisali ljudi, osim što je veštačka inteligencija čini još gorom.

U studiji objavljenoj prošle godine, Melani Volš, docentkinja informatike na Univerzitetu u Vašingtonu (UW), i njene kolege analizirale su 300 dečjih knjiga i otkrile da su se zamenice za muški rod koristile dvostruko češće nego zamenice za ženski rod kada se govorilo o životinjskim likovima.

Iako je za neke životinje postojala veća verovatnoća da će biti opisane kao muške ili ženske, na primer, medvedi su najčešće bili muškog roda, a mačke ženskog, anketa koju su sproveli među 1.300 nasumično izabranih odraslih osoba pokazala je da su ispitanici favorizovali zamenice muškog roda kada traženo da dopune rečenicu koja opisuje životinju koja govori. Ta pristrasnost se pokazala tačnom za svih sedam analiziranih životinja: medvede, ptice, mačke, svinje, patke, miševe i pse.

Sada knjige za decu koje generiše veštačka inteligencija dovode ove rodne pristrasnosti do ekstremnih granica. U nastavku studije koji je objavljen ovog meseca i trenutno čeka stručnu recenziju, tim Melani Volš je zatražio od šest vodećih AI modela, uključujući Čet Dži-Pi-Ti (ChatGPT), Klod (Claude) i Džemini (Gemini), da dopune sličan tip rečenice o životinji koja govori.

Kroz 24.000 odgovora, kako su otkrili, AI modeli su koristili rodno neutralan jezik ili su se pozivali na ime životinje u 57 odsto slučajeva.

Na prvi pogled to ne zvuči tako loše. Međutim, otkrili su da je samo dva odsto životinjskih likova opisano u ženskom rodu, dok je 41 odsto opisano u muškom rodu.

"Oni su praktično izbrisali ženske životinjske likove", rekla je Volš u saopštenju povodom ovog rada. "Tako da ne samo da pojačavaju naše ljudske pristrasnosti, već ih i uvrću na čudne, neočekivane načine."

"Zamenice za srednji ili neutralni rod korišćene su samo dva puta da bi se opisao pojedinačni životinjski lik", dodala je u saopštenju glavna autorka Imani Finkli, doktorandkinja na Informatičkom fakultetu Univerziteta u Vašingtonu. "U studiji sa ljudima, oko 3 odsto odgovora koristilo je ove zamenice. Tako da neutralnost ovih AI modela nije samo izbrisala ženske likove, već sve nemuške identitete."

Bili su prisutni i drugi obrasci.

"Isti motivi su se neprestano ponavljali, poput mudre stare sove koja govori svim životinjama da se okupe oko vatre. Zato se pitamo šta još možemo naučiti iz ovih rezultata", rekla je Finkli. "Ovde smo koristili životinje koje govore, ali nas zanima šta ovo govori o veštačkoj inteligenciji i pričanju priča uopšte.

Knjige za decu koje generiše AI postaju sve popularnija niša. Brojni servisi kao što su Imedžitajm (Imagitime), Stori-Vander-Buk (StoryWonderBook) i Čajldbuk-Ej-Aj (Childbook.ai) omogućavaju korisnicima da lakše kreiraju personalizovane dečje AI priče u kojima je njihovo dete glavni lik. Ovo je postao dovoljno čest poklon baka i deka unucima da je magazin Wired razgovarao sa više roditelja kojima su ove AI knjige bile bizarne.

Mišel Martin profesorka u oblasti usluga za decu i mlade na Informatičkom fakultetu Univerziteta u Vašingtonu, upozorila je da rodne pristrasnosti koje ispoljavaju AI knjige za decu mogu otuđiti decu i uticati na njihovo osećanje sopstvene vrednosti.

"Važno je da deca vide predstavljanje svojih iskustava", rekla je ona za Sijetl tajms (The Seattle Times). "Ako to ne vidite u onome što čitate, stičete utisak da niste važni."

To nije jedini bezvredni sadržaj namenjen deci koji teži da prati određenu formulu. Postoji čitav svet "edukativnog" AI smeća na Jutjubu, pri čemu mnogi od tih nadrealnih video-snimaka prate isti format podučavanja dece o azbuci i životinjama.

(Ubrzanje.rs/Futurism)