Četbot će morati da prepozna uzrast, a hakeri već traže slabosti sistema: Kako se menja položaj dece u AI eri

Čini se da se vodeće laboratorije za veštačku inteligenciju utrkuju u tome ko će pre "rastopiti" podložne umove maloletnih korisnika.

Već godinama posmatramo kako osobe mlađe od 18 godina postaju opsednute društvenim saputnicima zasnovanim na veštačkoj inteligenciji. To je zabrinjavajući trend koji je već imao katastrofalne posledice, od četbotova koji ih podstiču na samopovređivanje, pa sve do njihove umešanosti u niz smrtnih slučajeva. I to bez ulaženja u sve veći broj dokaza da veštačka inteligencija na dubok način urušava obrazovanje.

Velika većina laboratorija za veštačku inteligenciju sticajem okolnosti ima sedište u Kaliforniji, državi čiji guverner sada pokušava da stane na put ovom problemu, dok istovremeno tim kompanijama pruža dom, što u najboljem slučaju deluje prilično upitno sa stanovišta reputacije, piše Futurism.

U četvrtak je guverner te savezne države Gevin Nusam potpisao ono što je njegova kancelarija nazvala "prekretničkim dvopartijskim zakonodavstvom" za zaštitu "dece na internetu i prilikom korišćenja veštačke inteligencije".

U okviru ovog zakonodavstva, od kompanija koje se bave veštačkom inteligencijom zahteva se da razviju "krizne protokole u slučaju samoubilačkih misli, roditeljsku kontrolu i obaveštenja u slučaju da dete onemogući bezbednosna podešavanja". Jedan od novih zakona dobio je nadimak "Adamov zakon", u znak sećanja na šesnaestogodišnjeg Adama Rejna, koji je oduzeo sebi život u aprilu 2025. godine nakon opsežnih razgovora sa Čet Dži-Pi-Tijem (ChatGPT) o svojoj nameri da umre.

Zakon "će spasiti živote i sprečiti druge ozbiljne štete, i nadajmo se navesti i druge savezne države da donesu slične mere zaštite", rekla je Adamova majka Marija Rejn u izjavi tokom ceremonije potpisivanja predloga zakona u četvrtak.

Zakonodavstvo takođe zabranjuje "platformama društvenih mreža da korisnicima mlađim od 16 godina nude funkcije koje izazivaju zavisnost", nalažući im da "prošire zaštitu privatnosti dece". Funkcije koje izazivaju zavisnost prema ovom zakonu uključuju "automatsko puštanje video-snimaka i algoritamske fidove zasnovane na istoriji i profilu korisnika".

Iako je ovo svakako potez učinjen u najboljoj nameri, sprovođenje ovih novih pravila moglo bi se pokazati kao teško. Zakoni zahtevaju od četbotova zasnovanih na veštačkoj inteligenciji da provere starost korisnika, što je mnogo lakše reći nego učiniti. To bi takođe moglo izložiti maloletne korisnike novim rizicima. Samo ovog meseca, hakeri su provalili u ono što je po svemu sudeći bila velika služba za verifikaciju ličnih karata.

To je ozbiljan problem. Već smo videli više od jedne masovne pucnjave kojoj je, kako se čini, posredovao ChatGPT. Ostaje da se vidi da li će ova nova pravila pružiti šansu da se spreče buduće tragedije.

U međuvremenu, pritisak na kompanije za veštačku inteligenciju sa sedištem u Kaliforniji brzo raste. Od ovog meseca, OpenAI se suočava sa više od 50 tužbi zbog nanošenja štete potrošačima i uzrokovanja smrti sa nemarom.

Reakcije na najnovija pravila značajno su se razlikovale. Meta se u velikoj meri usprotivila novim ograničenjima protiv prikazivanja algoritamskih fidova maloletnim korisnicima, navodeći da su oni neophodni kako bi im se omogućilo da "bezbedno istražuju svoja interesovanja", kako je portparol rekao za Asošijeted pres.

I to uprkos tome što se Meta prošlog meseca saglasila da plati do 18 milijardi dolara na ime štete, nakon što je utvrđeno da je nanela štetu deci putem svojih platformi.

S druge strane, Antropik (Anthropic) je zvanično podržao predlog zakona, navodeći za Politiko u izjavi da, iako "veštačka inteligencija nosi izuzetno obećanje", ona "mora biti razvijena i primenjena uz smislene mere zaštite kako bi se zaštitila javnost".

OpenAI je takođe obećao da će poboljšati mere zaštite za ChatGPT, kako prenosi Si-En-Bi-Si (CNBC), ali nije detaljnije objasnio na koji način.

(Ubrzanje.rs/Futurism)