Stiže "ChatGPT za tinejdžere", dobiće "sate za učenje" i "odnos bez osećanja": Ovo je spisak zaštitnih mera

OpenAI uvodi novu opciju "ChatGPT za tinejdžere" (ChatGPT for Teens), za koju navodi da će pružiti dodatne zaštitne mere za tinejdžerske korisnike. Ovaj potez dolazi u trenutku kada se OpenAI suočava sa nizom tužbi u kojima se tvrdi da su neprimereni razgovori sa ChatGPT-om doprineli povređivanju ili smrti mladih ljudi. Ova opcija objedinjuje nove alate i niz zaštitnih mera za mlade koje je OpenAI uveo tokom protekle godine, saopštila je kompanija u utorak u blog objavi.

To će uključivati podsetnike za korisnike tinejdžere da naprave pauzu ako su aktivni 90 minuta unutar vremenskog okvira od tri sata. OpenAI takođe dodaje opcije za tinejdžere ili roditelje da podese "Tihe sate" (Quiet Hours), kada ChatGPT nije dostupan, ili "Sate za učenje" (Study Hours), tokom kojih će režim ChatGPT-a namenjen učenju biti uključen po automatizmu.

Kompanija je takođe navela da je unapredila zaštitu kako bi sprečila ChatGPT da izražava lična osećanja prema korisniku. Pored toga, dodaju se podsetnici koji upozoravaju tinejdžere da dobro razmisle ako pokušaju da na četbot pošalju privatnu ili osetljivu sliku.

Nove zaštitne mere primeniće "zaštitne mehanizme prilagođene uzrastu koji su dizajnirani da smanje izloženost sadržaju koji može biti štetan ili razvojno neprimeren", navela je kompanija u blog objavi od utorka, "uz očuvanje sposobnosti za učenje, stvaranje i istraživanje."

Korisnici koji prilikom registracije navedu da imaju manje od 18 godina biće automatski prebačeni na zaštitna podešavanja. OpenAI takođe navodi da koristi veštačku inteligenciju za procenu uzrasta korisnika i da će primeniti ove zaštitne mere na sve za koje se sumnja da su mlađi od 18 godina, bez obzira na datum rođenja u njihovom profilu.

Lorin Džonas, rukovodilac sektora za mlade i porodice u kompaniji OpenAI, opisala je "ChatGPT za tinejdžere" kao "namensko iskustvo usmereno na učenje namenjeno tinejdžerima, sa dodatnim zaštitama i sigurnosnim merama", u intervjuu za CNN u utorak.

Skoro trećina američkih tinejdžera svakodnevno koristi četbotove sa veštačkom inteligencijom, pokazalo je istraživanje Centra za istraživanje Pju (Pew Research Center) objavljeno u decembru. ChatGPT je bio daleko najpopularniji četbot sa veštačkom inteligencijom u ovoj anketi, pri čemu je više od polovine obuhvaćenih tinejdžera navelo da ga je koristilo.

OpenAI se suočava sa pojačanim nadzorom zbog zabrinutosti da ChatGPT nosi rizik od izlaganja mladih neprimerenom sadržaju, produbljivanja usamljenosti ili ometanja procesa učenja. Kompanija je suočena sa višestrukim tužbama porodica koje tvrde da je ChatGPT doprineo samoubistvu njihove dece, ili ga čak podsticao. Kompanija je odbacila ove optužbe.

Prošle jeseni, OpenAI je uveo kontrole za koje je naveo da omogućavaju roditeljima da onemoguće funkcije ChatGPT-a kao što su memorija i istorija ćaskanja, kao i da primaju obaveštenja kada sistem detektuje "trenutak akutnog stresa" tokom korišćenja četbota od strane njihove dece. Kompanija je u utorak saopštila da će u narednim nedeljama dodati i upozorenja za roditelje koja se odnose na poremećaje u ishrani.

Od tada, kompanija nastavlja da se suočava sa tvrdnjama da je ChatGPT odgovoran za nanošenje štete mladima.

Sedam porodica žrtava pucnjave u školi u Tambler Ridžu u Britanskoj Kolumbiji podnelo je tužbu u aprilu protiv kompanije OpenAI i generalnog direktora Sema Altmana. Oni tvrde da je ChatGPT bio saučesnik u ranjavanju i smrti njihove dece jer je napadač navodno vodio opsežne razgovore sa četbotom u vezi sa oružanim nasiljem. Altman se izvinio porodicama. U odgovoru na tužbu, kompanija je navela da je već pojačala svoje sigurnosne mere.

U junu je država Florida tužila OpenAI i Altmana, tvrdeći da nisu rešili bezbednosne rizike koje ChatGPT predstavlja za maloletnike. U tužbi se ChatGPT optužuje za pomaganje masovnim ubicama, podsticanje na samoubistvo, izazivanje "javnog poniženja", stvaranje zavisnosti kod maloletnika od alata koji "nema roditeljski nadzor" i uzrokovanje gubitka "veština kritičkog mišljenja" kod korisnika. OpenAI je tada saopštio da je "uveo vodeće zaštite i politike u industriji".

Samo prošle nedelje, okružni tužilac iz Masačusetsa optužio je sedamnaestogodišnjaka po dve tačke optužnice za ubistvo u vezi sa smrću njegove majke i brata. Ovaj tinejdžer je u periodu koji je prethodio incidentu vodio razgovore sa ChatGPT-om o "teoretskim idejama ili fantazijama u vezi sa ubistvom svoje porodice", navodi se u saopštenju za javnost iz kancelarije okružnog tužioca. Iz kompanije OpenAI nisu odmah odgovorili na zahtev za komentar o ovom slučaju.

Džonas iz kompanije OpenAI rekla je za Si-En-En u utorak da je "svaki od ovih slučajeva prevršio meru."

"Naš rad na bezbednosti nikada nije završen", rekla je ona. "To je kontinuirani trud 24/7, 365 dana u godini, kako bismo bili sigurni da tinejdžerima pružamo podršku koja im je potrebna u trenucima kada im je najpotrebnija."

(Ubrzanje.rs/CNN)