Nakon samoubistva 16-godišnjaka, OpenAI najavio velike promene u korišćenju ChatGPT

Slično kao što su tehnološke kompanije morale da reaguju i uvedu određena ograničenja i roditeljske kontrole na društvenim mrežama kako bi sprečile izloženost mladih negativnom sadržaju, sada isto rade i sa AI četbotovima. Kao i u slučaju društvenih mreža, u prvom planu ponovo je Meta, ali nove opcije namenjene zaštiti mladih najavio je i OpenAI za ChatGPT.

Najveća novina koju Altmanova kompanija priprema jeste mogućnost da roditelji povežu svoj nalog sa nalozima svoje dece kako bi mogli da prate razgovore koje vode sa veštačkom inteligencijom. Takođe, roditelji mogu da odaberu koje će opcije onemogućiti na dečjim profilima, kao i da aktiviraju opciju primanja obaveštenja u slučajevima kada sistem prepozna određene probleme poput stresa i slično.

Iz OpenAI kažu i da, bez obzira na uzrast osobe koja razgovara sa njihovim četbotom, u slučaju razgovora koje sistem prepozna kao potencijalno uznemirujuće, tu konverzaciju će prebaciti na najsnažnije AI modele kako bi pružili najbolji mogući odgovor.

To se naročito odnosi na razgovore o samoubistvima ili razgovore sa mladima (ili starijima) u kojima se mogu prepoznati znaci mentalnog i emotivnog stresa.

Samoregulacija IT kompanija nije dovoljna

Iz OpenAI su najavili ove promene nedugo nakon što su roditelji jednog tinejdžera tužili OpenAI i izvršnog direktora ove kompanije Sema Altmana tvrdeći da je upravo ChatGPT pomogao njihovom detetu u planiranju i izvršenju samoubistva. Advokat roditelja smatra da je ovaj potez OpenAI-a samo pokušaj njihovog odeljenja za upravljanje krizama da promene temu.

Ograničenja oko tema razgovora sa svojim četbotom najavili su i iz kompanije Marka Zakerberga. Oni su još ranije uveli roditeljski nadzor nad nalozima mladih, a sada su najavili da Meta AI više neće moći da razgovara sa tinejdžerima o temama poput suicida, ali i samopovređivanja, poremećaja u ishrani i da sa decom više neće voditi neprikladne romantične razgovore. Umesto toga, usmeriće ih na resurse koji će im pružiti stručnu pomoć.

Iako je svakako reč o napretku i poboljšanjima u odnosu tehnoloških kompanija i njihovih AI alata prema mladima, stručnjaci naglašavaju da je potrebno uraditi mnogo više na zaštiti tinejdžera, a kao poseban problem ističu to što je ovde zapravo reč o samoregulaciji kompanija i to na polju na kojem su opasnosti za tinejdžere izuzetno velike i stvarne, naglašavaju u AP-u.

(Ubrzanje.rs/Zimo)