Bivša direktorka Blumberga otkrila zašto cene čipova divljaju: Napustila posao da bi pokrenula Silikon dejtu

Cene grafičkih procesora (GPU) skočile su ove godine, što naglašava koliko je tržište čipova za veštačku inteligenciju (AI) i dalje daleko od bilo kakve stabilizacije nakon početnog buma.

U intervjuu, izvršna direktorka kompanije Silikon dejta Karmen Li izjavila je da podaci o cenama njene firme pokazuju širok porast kod starijih i novijih Envidija (NVIDIA) procesora, koji se koriste za obuku i pokretanje AI modela.

Indeks "Neo klaud H100" ove firme porastao je sa 2,20 na 2,64, što je skok od 20% u poslednja tri meseca. Indeks "Neo klaud B200" popeo se sa 4,40 na 5,35, što je porast od 22%. Takođe, indeks "Hajperskejler H100" povećao se sa 7,26 na 7,46, što je rast od 3%, prema podacima Silikon dejte.

Ove brojke sugerišu da potražnja za AI računarskom snagom i dalje premašuje ponudu. Li je rekla da tržište nije pratilo uobičajeni obrazac u kojem cene rastu kada se novi čip tek pojavi, a zatim postepeno opadaju kako se ponuda poboljšava. Umesto toga, ona je navela da su cene za B200 modele ostale visoke i čak porasle, što je znak da ograničeni kapaciteti i dalje predstavljaju problem.

Li tvrdi da se pritisak usled ove neravnoteže između ponude i potražnje vidi u celom AI sistemu: kod čipova, memorije, napajanja i prostora u centrima za podatke. To ograničenje je pomoglo da cene ostanu stabilne čak i za stariji hardver kao što je Envidijin H100, koji ostaje ključan za zadatke obuke i zaključivanja veštačke inteligencije.

"Cena prilično divlja", rekla mi je Li u nedavnom intervjuu, govoreći o cenama iznajmljivanja H100 procesora.

Moć određivanja cena u klaudu

Najveća premija u ceni iznajmljivanja grafičkih procesora javlja se u okruženjima velikih dobavljača (hyperscalers), gde korisnici plaćaju više zbog pogodnosti, postojećih integracija i pristupa kapacitetima koje nude najveći svetski provajderi usluga u klaudu.

Iznajmljivanje H100 modela košta skoro tri puta više kod velikih dobavljača kao što su Amazon, Majkrosoft, Gugl i Orakl, u poređenju sa specijalizovanim provajderima poput Korviva, koji vode specifične AI servise, navodi Silikon dejta.

Li je više od dve godine radila kao globalna direktorka strateških saveza u gigantu za finansijske podatke Blumbergu, nadgledajući ugovore o korporativnim podacima. Napustila je kompaniju 2024. godine kako bi pokrenula Silikon dejtu, specifično sa ciljem da prati cene grafičkih procesora. Njena namera je da tržište iznajmljivanja ovih procesora učini transparentnijim. Li je izjavila da kompanija prikuplja stotine hiljada podataka o cenama širom sveta i pretvara ih u indekse koji se mogu koristiti za razumevanje trenutnog iznajmljivanja, ali i dugoročne vrednosti.

Mala amortizacija

Ove informacije o cenama su ključne jer tehnološki giganti, AI laboratorije i druge kompanije troše bilione dolara na kupovinu grafičkih procesora i izgradnju centara za podatke kako bi podržali bum generativne veštačke inteligencije. Jedna od briga je da bi, ukoliko cene procesora padnu usled slabe potražnje, klaud giganti morali brže da otpisuju vrednost (amortizuju) ove imovine, što bi moglo žestoko da pogodi njihovu zaradu.

Za sada se dešava suprotno. Cene grafičkih procesora rastu, a čak ni stariji modeli ne gube mnogo na vrednosti, tvrdi Li, koja takođe vodi firmu pod nazivom Kompjut eksčejnd koja se bavi preprodajom polovnih procesora.

U drugoj godini korišćenja, remontovani H100 možete prodati za 85 odsto prvobitne vrednosti, rekla mi je Li. Zatim, u trećoj godini, isti taj procesor možete prodati za 84 odsto vrednosti.

"Moj automobil gubi na vrednosti mnogo brže od toga", dodala je ona.

Trenutno je potražnja za veštačkom inteligencijom neverovatna, a ponuda računarske snage ne može da je isprati. To ima posledice ne samo na budžete za infrastrukturu, već i na ekonomsku održivost AI proizvoda koji zavise od iznajmljenih procesora kako bi masovno generisali AI tokene.

(Ubrzanje.rs/Bussines Insider)