Upozorenje za sve koji žele da "skrate troškove" uz pomoć četbota: Jedna greška kompaniju koštala mnogo

Foto: Shutterstock.com

• Korisnici se požalili na društvenim mrežama

• Vest se proširila u zajednici programera, pokrenuo se talas otkazivanja usluge

• Postavilo se pitanje bezbednosti upotrebe AI asistenata u oblstima od javnog i životnog značaja

Američki startap Cursor napravio je bum na tržištu veštačke inteligencije (AI) zahvaljujući popularnosti svog pomoćnika za kodiranje softvera koji pokreće veštačku inteligenciju. Nije ni čudo što su njegove usluge koristili slični startapi, poput Anisphere, i tako beležili konstantan rast.

Sam Cursor očekivao je akviziciju od strane OpenAI, a dostigla je godišnji prihod od 100 miliona dolara od lansiranja Cursora 2023. Međutim nedavno, Cursor je postao viralan iz pogrešnih razloga: njegova korisnička podrška AI je počela da greši, što je pokrenulo talas otkazivanja usluge, i upozoravajuća je priča za sve one koji se klade na automatizaciju posla.

"AI Sem"

Sve je počelo ranije ove nedelje, kada je korisnik na platformama Hacker News i Reddit objavio da su kupci počeli da se misteriozno odjavljuju prilikom prebacivanja između uređaja. Zbunjeni, kontaktirali su korisničku podršku, da bi im u odgovoru e-poštom Sem rekao da su odjave "očekivano ponašanje" prema novoj politici prijavljivanja.

Ali nije bilo nove politike — ni čoveka iza imejla za podršku. Odgovor je došao od bota sa veštačkom inteligencijom, a nova "politika" je bila tzv. halucinacija, potpuno izmišljeno objašnjenje, kako se često naziva.

Vest se brzo proširila u zajednici programera, što je dovelo do izveštaja da su korisnici otkazali svoje pretplate, dok su se neki žalili na nedostatak transparentnosti. Suosnivač startapa Majkl Truel je objavio na Reditu da priznaje grešku i izvinjavajući se korisnicima. Odgovor je, piše Fortune, stigao prekasno.

Kako je rekla savetnik za veštačku inteligenciju i bivša Guglova glavna naučnica za odlučivanje Kesi Kozirkov - nered se mogao izbeći. Za to daje tri razloga. Prvi, da su lideri shvatili da AI pravi greške, drugi, da AI ne može da preuzme odgovornost za te greške i treći da korisnici mrze da ih prevari mašina koja se predstavlja kao čovek.

Perspektiva halucinirajućih agenata

Za sada su halucinacije ograničene na AI četbotove, ali stručnjaci upozoravaju da kako sve više preduzeća usvaja autonomne AI agente, posledice po kompanije mogu biti daleko gore. To je posebno tačno u visoko regulisanim industrijama kao što su zdravstvena zaštita, finansijska ili pravna – kao što je elektronski transfer koji druga strana odbija da vrati ili pogrešna komunikacija koja utiče na zdravlje pacijenata.

Perspektiva halucinirajućih agenata "je kritičan deo slagalice koju naša industrija apsolutno mora da reši pre nego što agentska veštačka inteligencija zaista bude široko usvojena", rekao je izvršni direktor i suosnivač Vectare Amr Avadalah, kompanije koja nudi alate koji pomažu preduzećima da smanje rizik od AI halucinacija.

On kaže da se preduzećima sviđa ideja o autonomnim AI agentima koji mogu sami da preduzmu akciju, čime štede na troškovima rada. Ali, rekao je on, kompanije su takođe "izuzetno zabrinute da bi jedan incident halucinacije, uparen sa remetilačkom ili čak destruktivnom akcijom veštačke inteligencije, mogao duboko da utiče na njihovo poslovanje".

(Ubrzanje.rs/Bonitet)