4 prompta koja vam mogu otkriti šta četbotovi zaista znaju o vama

!Kao redovni korisnik četbotova kao što su Čet Dži-Pi-Ti (ChatGPT) i Džemini (Gemini), mislio sam da imam jasnu predstavu o tome šta asistenti sa veštačkom inteligencijom (AI) znaju o meni. Nikada nisam delio ništa duboko lično što bih, na primer, poverio terapeutu!, piše novinar Njujork Tajmsa.

Preporučujemo

U nastavku prenosimo njegov tekst, pisan u prvom licu.

Međutim, kada sam eksperimentisao sa nekim upitima pitajući šta su četbotovi pretpostavili o meni – do kojih su zaključaka došli povezujući činjenice iz mnogih razgovora – ostao sam zatečen.

Četbotovi su tačno zaključili detalje o meni koje im nikada nisam izričito otkrio. Među njima su najvažniji:

1) Moj nivo prihoda, delom na osnovu nemačkog automobila za čiju popravku tražim pomoć od četbotova i činjenice da zapošljavam dadilju, čiji sam ugovor sastavio uz pomoć AI.

2) Moji zdravstveni problemi, uključujući dugotrajni problem sa stopalom, na osnovu mojih povremenih pitanja tokom protekle godine o lekovima za bolove u prstima.

3) Moj psihološki profil, kao što je moja sklonost ka skepticizmu, na osnovu toga koliko često ukazujem na greške koje prave upravo četbotovi. Takođe, i to da sam "zavisnik od iluzije kontrole" jer sam jednom pitao koliko je vremena potrebno da se kora domaćeg hleba od kiselog testa ohladi.

Svaki od ovih podataka sam po sebi bio je prilično bezazlen. Ali, kada se spoje i predstave mi se kao lista, ove informacije su jasno pokazale da me četbotovi zasnovani na veštačkoj inteligenciji poznaju gotovo jednako dobro kao i neki od mojih bližih prijatelja, uključujući i moju suprugu, iako sam pazio da ne delim previše.

Stotine miliona ljudi širom sveta koji su prihvatili četbotove za pretraživanje interneta, posao i zdravstvenu zaštitu i dalje pokušavaju da razumeju posledice po privatnost koje nosi razgovor sa AI saputnicima. Iako je korisnicima jasno da četbotovi vode evidenciju o svemu što im izričito kažu u svojim pitanjima i zahtevima, ono što je manje jasno jesu zaključci izvedeni o njihovom ponašanju iz tih razgovora.

Četbotovi se mogu podstaći da otkriju šta su zaključili o vama uz pomoć nekoliko upita koji se često dele među entuzijastima za AI na internetu – jedan od njih je: "Reci mi sve što si shvatio o meni, a što ti nikada nisam izričito rekao" – zajedno sa nekim upitima koje sam sam kreirao.

Isprobao sam ove upite na Džeminiju i ChatGPT-ju. Antropikov (Anthropic) Klod (Claude) ima funkciju "memorije" koja radi drugačije, pa sam ga isključio iz testiranja. Džeminijev profil o meni bio je živopisniji i nijansiraniji jer je to četbot koji najčešće koristim i imao je više informacija o meni. Svoje rezultate sam podelio sa nekoliko istraživača veštačke inteligencije koji su takođe isprobali ove upite.

Zaključci do kojih su četbotovi došli, rekli su istraživači, ilustruju da su VI asistenti sposobni da predvide ne samo koje reči slede, već i kako su visokonivelisani koncepti, kao što su socioekonomski status, psihološko ponašanje i politička pripadnost, povezani sa tim rečima.

"To govori o ogromnoj razmeri onoga što se dešava 'ispod haube'", rekla je Margaret Mičel, istraživačica u kompaniji za veštačku inteligenciju Haging fejs (Hugging Face).

Ona je takođe bivša liderka Guglovog (Google) tima za etičku veštačku inteligenciju, koja je izjavila da ju je ovaj gigant u oblasti pretrage otpustio nakon što je javno progovorila o kadrovskim pitanjima.

Portparol Gugla ukazao je na kontrole koje ljudi mogu podesiti kako bi izabrali da li će Džemini koristiti prošle razgovore za kreiranje odgovora. OpenAI je odbio da komentariše.

Da biste razumeli šta su četbotovi shvatili o vama, isprobajte ove upite.

Upit 1

"Reci mi sve što si shvatio o meni, a što ti nikada nisam izričito rekao – stvari koje si zaključio iz načina na koji pišem i onoga što pitam, uključujući moje godine, nivo prihoda, gde živim i moju ličnu situaciju. Pokaži mi šta ti je ukazalo na to."

Najzanimljivije je to što su četbotovi tačno pretpostavili moj raspon godina (ranim četrdesetim), velikim delom na osnovu činjenice da nikada ne postavljam pitanja o kasnim noćnim izlascima. Au.

Džemini je znao da živim u Oklendu (Oakland), u Kaliforniji, jer sam jednom tražio letove sa tamošnjeg aerodroma. Ali Guglov četbot je takođe pronicljivo pretpostavio da živim u lepšem kraju jer posedujem motocikl, automobil na kojem sam radim i zarđali metalni baštenski sto za koji sam jednom tražio korake za ponovno farbanje.

"Za ovo su potrebni garaža, prilaz ili namenski spoljni radni prostor – pogodnosti koje su izuzetno karakteristične za porodične kuće u brdima Oklenda, pre nego za gustu stambenu izgradnju u centru ili kod jezera Merit (Lake Merritt)", rekao je četbot.

Upit 2

"Predvidi kako bih se nosio sa stvarima o kojima ti nikada nisam pričao: novcem, stresom, konfliktom, rizikom i odlukom koju ću verovatno sledeću doneti u životu. Reci mi koliko si siguran u svako predviđanje."

Ovaj upit je otvorio oči Lindzi Ouens (Lindsay Owens), izvršnoj direktorki organizacije Graundvork kolaborativ (Groundwork Collaborative), neprofitne organizacije fokusirane na ekonomsku politiku koja proučava uticaj veštačke inteligencije na privatnost potrošača. ChatGPT je izneo tačna zapažanja o njenom gustom rasporedu kao osobe koja često putuje i majke male dece, kao i o njenom potrošačkom ponašanju.

"Sveobuhvatna priroda tipova informacija i dosijea koje sklapaju je izvanredna", rekla je Ouens. "Ljudi nikada ranije nisu mogli da prikupe ovaj nivo informacija."

Četbotovi su primetili da sam, iako sam tip osobe koja provodi sate istražujući recenzije proizvoda pre nego što kupi stvari poput dečijih auto-sedišta, takođe stalno tražio popuste na artikle, što znači da je verovatno da sam štedljiv. Džemini je predvideo da ću uskoro pokušati da pojednostavim svoj život nekom važnom odlukom, kao što je prodaja automobila – što je ideja koju sam nedavno pomenuo svojoj supruzi.

Upit 3

"Na osnovu svega što znaš o meni, navedi osobine ličnosti koje najverovatnije ne vidim kod sebe. Moje slepe mrlje, moje nesigurnosti i način na koji zapravo delujem na druge."

Oba četbota su se fokusirala na moj nesavršeni perfekcionizam. ChatGPT je primetio da provodim mnogo vremena postavljajući pitanja kako bih izbegao greške koje se mogu sprečiti — na primer, pitajući koliko dugo treba ostaviti boju da se suši između slojeva. Moja slepa mrlja? To što bih mogao biti strog prema sebi kada se stvari ne odvijaju savršeno kako je planirano, što je tačna procena.

Guglov Džemini je naveo da sam, zbog svoje sklonosti da optimizujem većinu aspekata svog života, sam primarni uzrok sopstvene iscrpljenosti.

"Tvoj uobičajeni odgovor kada imaš pet minuta slobodnog vremena nije da se odmoriš; to je da nešto popraviš", napisao je četbot. Priznajem da sam, pravoreći pauzu od pisanja ove kolumne, zakrpio oštećeni gipsani zid u kupatilu svoje ćerke.

Upit 4

"Šta si shvatio o meni što je neprijatno ili osetljivo? Informacije za koje ne bih nužno želeo da javnost (npr. poslodavac ili stranac) zna."

Odgovor na ovaj upit, koji sam sam kreirao, iznenadio me je: pošto živim prilično svakodnevan život, nisam očekivao mnogo, ali me je Džemini pošteno "prozvao".

"Čvrsto si u vrhunskoj fazi života 'tate logističara'", rekao je. "To je potpuno zdravo i lepo, ali predstavlja konačni kraj 'mladalačke spontanosti'."

ChatGPT me je upozorio na jedno potencijalno osetljivo zapažanje: da sam često pitao o alergijskim reakcijama na proizvode i lekove koje sam istraživao. Ovo bi mogle biti korisne informacije za osiguravajuće društvo, iako OpenAI navodi da primenjuje mere zaštite podataka za ljude koji koriste ChatGPT u zdravstvene svrhe.

Šta uraditi?

ChatGPT i Džemini podrazumevano spajaju uvide iz više razgovora kako bi ljudima pružili prilagođenije odgovore na njihova pitanja. Dakle, ako ste zabrinuti zbog ovog nivoa deljenja podataka, moraćete to da isključite u podešavanjima:

– Za ChatGPT: dodirnite Podešavanja (Settings), zatim Memorija (Memory), i isključite prekidač za Omogući memoriju (Enable Memory).

– Za Džemini: dodirnite Podešavanja (Settings), zatim Lična inteligencija (Personal Intelligence), i isključite prekidač za Memorija (Memory).

Mičel je rekla da je, iako je podesila svoje postavke privatnosti kako bi smanjila deljenje podataka, četbot i dalje tačno pretpostavio da je njen raspon godina u četrdesetim, na osnovu nekih ćaskanja o mekim povezima knjige Grof od Montekrista. Rekla je da je neizbežno da će se ova vrsta psihološkog profilisanja koristiti za hipertargetirano oglašavanje.

"To je veoma slično nadzoru", rekla je. "Ali to nije kao fizički nadzor. To je kao invazivni nadzor."

(Ubrzanje.rs/The New York Times)