Kalifornija prva u SAD uvela zakon koji reguliše komunikaciju sa četbotom: Ovo su nova pravila

Guverner Kalifornije Gevin Njusom u ponedeljak je potpisao istorijski zakon kojim se regulišu AI četbotovi, čime je Kalifornija postala prva savezna država u SAD koja zahteva da operateri AI četbotova uvedu bezbednosne protokole za virtuelne sagovornike.

Preporučujemo

Zakon SB 243 ima za cilj da zaštiti decu i ranjive korisnike od štetnih posledica korišćenja AI četbotova. On kompanije, od velikih laboratorija poput Mete i OpenAI-ja do manjih startapa specijalizovanih za virtuelne saputnike kao što su Character AI i Replika, čini pravno odgovornima ukoliko njihovi četbotovi ne ispune zakonske standarde.

SB 243 su u januaru predstavili državni senatori Stiv Padilja i Džoš Beker, a zakon je dobio na zamahu nakon smrti tinejdžera Adama Reina, koji je izvršio samoubistvo posle dugog niza razgovora o samoubistvu sa ChatGPT-jem kompanije OpenAI. Zakonodavstvo je delimično i odgovor na procurela interna dokumenta koji su navodno pokazali da je Metinim četbotovima bilo dozvoljeno da sa decom vode "romantične" i "senzualne" razgovore. Nedavno je i porodica iz Kolorada podnela tužbu protiv startapa Character AI nakon što je njihova trinaestogodišnja ćerka izvršila samoubistvo posle niza problematičnih i seksualizovanih razgovora sa četbotovima te kompanije.

"Nova tehnologija poput četbotova i društvenih mreža može da inspiriše, obrazuje i povezuje, ali bez stvarnih ograničenja, ona može i da iskoristi, obmane i ugrozi našu decu", izjavio je Njusom.

"Videli smo zaista užasne i tragične primere mladih ljudi koje je neregulisana tehnologija ugrozila, i nećemo stajati po strani dok kompanije nastavljaju bez potrebnih ograničenja i odgovornosti. Možemo i dalje da predvodimo u razvoju veštačke inteligencije i tehnologije, ali to moramo da radimo odgovorno, štiteći našu decu na svakom koraku. Bezbednost naše dece nije na prodaju."

Zakon SB 243 stupa na snagu 1. januara 2026. godine i zahteva od kompanija da uvedu određene funkcije, kao što su verifikacija uzrasta i upozorenja u vezi sa društvenim mrežama i četbotovima. Zakon takođe predviđa strože kazne za one koji ostvaruju profit od nezakonitih dipfejk sadržaja, i do 250.000 dolara po prekršaju. Kompanije moraju da uspostave protokole za reagovanje u slučajevima samoubistva i samopovređivanja, koji će se deliti sa državnim Odeljenjem za javno zdravlje, zajedno sa statistikama o tome koliko su korisnika njihove usluge dobile obaveštenje o centrima za prevenciju kriza.

Prema tekstu zakona, platforme moraju jasno da naznače da su svi razgovori generisani veštačkom inteligencijom i da četbotovi ne smeju da se predstavljaju kao zdravstveni stručnjaci. Kompanije su obavezne da maloletnim korisnicima nude podsetnike za pauze i da spreče prikazivanje seksualno eksplicitnih slika generisanih.

Neke kompanije su već počele da uvode zaštitne mere usmerene ka deci. Na primer, OpenAI je nedavno počeo da uvodi roditeljske kontrole, zaštitu sadržaja i sistem za detekciju samopovređivanja kod dece koja koriste ChatGPT. Replika, koja je namenjena odraslima starijim od 18 godina, saopštila je za TechCrunch da posvećuje "značajna sredstva" bezbednosti kroz sisteme filtriranja sadržaja i zaštitne mehanizme koji korisnike usmeravaju ka pouzdanim kriznim resursima, te da je posvećena poštovanju važećih propisa.

Character AI je naveo da njihov četbot sadrži obaveštenje da su svi razgovori generisani i fikcionalizovani pomoću veštačke inteligencije. Portparol kompanije izjavio je za TechCrunch da "pozdravljaju saradnju sa regulatorima i zakonodavcima u razvoju propisa za ovaj novi sektor, te da će poštovati sve zakone, uključujući SB 243."

Senator Padilja rekao je za TechCrunch da je ovaj zakon "korak u pravom smeru", te da se nada da će i druge savezne države prepoznati rizike.

SB 243 je drugi značajan zakon o regulaciji veštačke inteligencije koji je Kalifornija donela u poslednjih nekoliko nedelja. Dana 29. septembra, guverner Njusom potpisao je zakon SB 53, kojim se uvode novi zahtevi za transparentnost velikih AI kompanija. Tim zakonom se obavezuju velike laboratorije, poput OpenAI-ja, Antropika, Mete i Guglove DeepMind grane, da budu transparentne u pogledu svojih bezbednosnih protokola, kao i da se obezbede zaštite za uzbunjivače među zaposlenima u tim kompanijama.

Neke druge savezne države, poput Ilinoisa, Nevade i Jute, već su donele zakone koji ograničavaju ili u potpunosti zabranjuju korišćenje AI četbotova kao zamene za licencirane stručnjake za mentalno zdravlje.

(Ubrzanje.rs/TechCrunch)